2021年，西雅图时间上午九点，

初秋的阳光正好洒落在第二大道1301的写字楼幕墙上，玻璃上的镀膜将刺眼的日光滤成近似白炽灯的柔和光线，显得办公室里温暖又明亮。

"早上好,各位!"

Jeremy Wacksman，Zillow的首席运营官（COO）,一如往常地手捧黑咖啡，笑着和办公室内的同事打招呼。

此时Covid-19的疫情尚未结束，美国的市场经济形势从一片繁荣急转直下，剧烈的通胀导致的各种成本上升和人们的消费欲望下降，让无数的商家和企业都面临生死存亡的严峻考验。

然而，Zillow成了房租不断上涨的办公楼里，为数不多依旧维持着日常营业、甚至业绩大幅增长的公司。

这一切都要归功于科技的进步，Jeremy如此确信。

在Zillow Offers部门的办公显示屏上，各种参数代码联动着市场波动，AI系统实时反馈着各种交易对手单和关键价格点，给出可能获利的交易报价并下单。

而疫情导致的房地产需求暴涨，让Zillow的不动产自动交易业务大赚特赚了一笔。

"Jeremy！我这里有个东西需要你来看一下"

"冷静些Jacob"

面对突然闯进自己办公室，面色有些难看的下属，Jeremy打趣道。

"没什么事情能比现在的疫情还糟糕的——哦，疫情突然消失的话除外。"

"我不确定疫情有没有消失、先生……"

名叫Jacob的下属丝毫没有打趣的心思。

"但我们交易账户的余额、已经在消失了。"

从时代的浪潮摔下来只需一瞬

Zillow公司成立于2006年，由微软前CEO Rich Barton和微软前高管Lloyd Frink创立。

起初，Zillow只是一个房地产信息平台，旨在为用户提供房屋估价、房源搜索和市场分析等服务。

和其他仅仅作为凑对交易和报价信息的房地产平台不同，Zillow内置的产品——“Zestimate”， 利用不动产市场交易信息大数据进行机器学习，为平台的买卖双方提供了房屋的实时估价。

远超于人工报价的效率和机器学习的精准预测，让Zestimate受到了买卖双方的一致好评。

于是，随着“Zestimate”的数据库不断增加，交易报价越发精准完善。

2015年，Rich和Lloyd决定主动下场进行不动产交易，从平台方变成了市场的交易方。

于是，由Jeremy领导的Zillow Offers部门成立。

Zillow Offers的主要工作，就是基于Zestimate对市场走势的分析，筛选出那些将来可能涨价的房产出售信息，并主动报价收购那些低于均价或有盈利空间的不动产。

在买下这些房产后，Zillow会对其进行整修、翻新，然后等待价格上涨，将其重新放到不动产市场上出售获利。

在十多年前，基于机器学习大数据的交易模型还是一个相当前沿的领域。

由于市场缺乏流动性和对等效率的交易对手，Zillow Offers为公司创造了大量利润，使得Zillow的收入2015年的约6.5亿美元，增长到了2019年的约27亿美元，雇员人数也增长到了近4000人。

见市场反馈如此可喜，Zillow高管层当即决定“ALL IN AI”，将Zillow Offers的商业模式作为公司的主营业务。

紧接着，Zillow就迎来了Covid-19时代。

疫情前期，房地产市场不出意料地受到了恐慌情绪的影响而波动下降。

但很快，华尔街的商业巨头和相关消息人士敏锐地察觉到，联邦政府为了维持经济马上就会进行“货币大放水”；同时Covid疫情导致人们会尽可能不在公共场合停留、增加待在家里的时间——这就使“拥有一个好住所”显得格外重要，进而使人们增加买房的意愿。

于是，华尔街的各商业巨头立刻低调地行动起来，在尽可能不影响房价缓慢下跌的态势中收购优良的不动产资产。

Zestimate精准地捕捉到了大量低价买盘入场的市场信号，Zillow Offers迅速出手，收购了市面上的大量房产。

果不其然，2020年随着拜登政府的一系列经济刺激政策和许多公共场所的封闭，美国房地产价格迅速升高，不到一年时间涨幅就达到了惊人的50%+。

Zillow也趁着这波涨幅收获了大量利润入账。

就在公司上下一片欢欣鼓舞，看着公司股价一路从40美元涨到120美元，公司高层已经开始盘算着明年是将手里的期权换成别墅豪宅还是豪华游艇时……华尔街开始高位抛售了。

由于疫情导致的行情扭曲，凭借历史数据训练出来的Zestimate错误判断了市场走势，误以为交易对的大幅增加是市场下一次暴涨的讯号，便大量自动报价，极短的时间内就为Zillow买下了大量房产。

很快，Jeremy等人的噩梦便开始了。

随着2021年美国境内疫苗的接种进程令易感人群减少，解决国内严重的通胀成了政府迫在眉睫的问题。

11月3日，美联储在联邦公开市场委员会（FOMC）会议上宣布，将从当月开始，逐步减少。

其每月1200亿美元的资产购买规模。

鲍威尔的话音刚落，整个不动产市场开始应声下跌，几乎所有的房地产相关价格指数都开始了触顶回落的行情。

而Zillow则因为短时间内蒙受重大损失，当月就宣布关闭Zillow Offers部门及相关业务，裁员25%并出售旗下囤积的7000多套房产，来避免走向破产的结局。

随着AI的高速发展，AI迅速渗透到了各行各业，但AI带来的归责和监管问题也愈发显著突出。

就如“自动驾驶撞伤路人，究竟是司机的责任还是自动驾驶厂商的责任”之类的问题一样。

在缺乏自然人作为责任主体时，AI决策造成的损失该由谁来承担？我们又该如何避免AI造成追责困难？

2020年发表在期刊《Public Administration Review》上的论文《可问责的人工智能：让算法承担责任/Accountable Artificial Intelligence: Holding Algorithms to Account》，围绕人工智能（AI）算法在公共部门决策中的应用，及其带来的问责挑战进行了研究。

Madalina在论文中线回顾了人工智能（AI）算法在公共部门决策中的应用，为文章引入了Bovens（2007）的问责制三阶段模型框架——即信息、解释和后果。

随后，Madalina结合了公共行政学、计算机科学和法律等多个学科的研究成果，探讨了AI算法的透明性、可解释性及其对公共问责的影响，并通过多个实际案例（如美国法院使用的COMPAS算法、面部识别技术的偏见等），展示了AI算法在公共部门中的实际应用及其带来的问责挑战。

作为结论，Madalina认为AI算法很可能复制历史数据中的偏见（Bias），进而形成负面反馈循环，产生“自动化偏见”。

Madalina强调AI决策流程的透明性和可解释性对确保算法问责的重要性，建议公共部门优先选择透明且可解释的模型，避免“黑箱”算法，并建立独立审计机制。

Zillow带给我们的不仅仅是一家公司的失败故事，更是AI技术在商业决策中潜在风险的缩影。

这些案例时刻警醒着我们，我们在享受AI科技带来的便利和利润同时，也必须直面它带来的危险和挑战。

"科技进步本身并不是问题，问题在于我们如何使用它。"

人类既然无法回避AI科技时代的到来，那如何让它更好地服务人类，就将是时代的主旋律。

--END--

• 往期推荐