乌云密布的未来:为什么我们不相信算法几乎总是对的

Roomba的销量正在飙升，这表明数百万人相信机器人吸尘器的房间导航算法和强大的吸力能保持地板清洁。同样，很少有电脑用户反对统计模型和其他算法，它们帮助我们进行网络搜索，查看相关的社交媒体帖子，并从Netflix和Spotify获得推荐。

但是，我们是否已经准备好接受那些结果不太确定、可以说风险更高的活动——比如选择投资、驾驶汽车、做手术或评估工作和大学申请——的算法呢?

目前还没有新研究心理科学．

“这些结果表明，说服人们在本质上不确定的领域使用算法，并不是等到技术进步，算法表现得比现在更好的时候。”

Berkeley J. Dietvorst和Soaham Bharti(芝加哥大学)

伯克利·j·迪特沃斯特(Berkeley J. Dietvorst)和索哈姆·巴蒂(Soaham Bharti)(芝加哥大学)写道:“从某种程度上说，投资、医疗决策和其他领域本身就不确定，人们可能不愿意在这些领域使用即使是最好的算法。”尽管事实上，算法预测者在这些领域的表现优于人类预测者，这要归功于它们使用的工具遵循更一致的规则，犯的错误比人类更少。

研究人员继续说:“不愿意采用优于人类的算法可能会付出巨大的代价。”金宝搏官网登录例如，“大多数美国人报告说，他们乘坐自动驾驶汽车会感到不舒服……但研究表明，早期采用自动驾驶汽车可以挽救数十万人的生命。”

如何解释我们对人类技能和本能的偏爱，而不是那些已经证明在驾驶、手术和招聘决策方面比我们更好的技术?从本质上讲，我们相信自己会在无法减少的不确定性决策上冒险，但我们不相信计算机会为我们承担这样的风险，因为它们的错误似乎在非常罕见的情况下才会更加明显。

迪特沃斯特和巴蒂写道:“我们认为，人们对预测错误的敏感度正在下降，这导致他们更喜欢那些他们认为最有可能提供近乎完美答案的决策方法(即几乎没有错误的决策方法)。”“这种决策策略鼓励冒险，导致人们在觉得算法不太可能产生近乎完美的答案时，更倾向于风险更大、通常表现更差的决策方法(比如人类判断)。”

在九项研究中，研究人员表明，人们认为“在不金宝搏官网登录同程度的近乎完美预测(几乎没有误差的最佳预测)之间存在相对较大的主观差异，而在误差较大的预测之间存在相对较小的主观差异。”因此，他们不太可能在更不可预测的领域(例如，随机结果vs.由方程决定的结果)中选择最佳决策者，而是倾向于选择基于他们感知的产生近乎完美选择的可能性和高方差的表现的决策者。这导致人们在不确定的领域倾向于风险更大、通常表现更差的决策者，比如人类的判断。

研究人员总结说:“这些结果表明，说服人们在本质上不确定的领域使用算法，不是等到技术进步，算法表现得比现在更好的时候。”金宝搏官网登录“这种拒绝的影响是巨大的，因为在人们愿意使用算法来做出本质上不确定的预测之前，社会不会完全受益于重要但不确定领域的技术进步。”

但是机器有道德吗?

最近的另一篇文章探讨了过度恐慌所谓的无人驾驶困境其中，自动驾驶汽车必须在道路上做出高风险的道德决策，例如伤害谁，拯救谁(例如，行人或乘客)。朱利安·德弗雷塔斯(Julian De Freitas)等人认为，这些担忧是一种工程和政策上的干扰．“我们教人类如何驾驶，不是告诉他们在被迫选择时该杀死谁。这是因为为一种不太可能、无法察觉和无法控制的情况做计划会分散我们对目标的注意力做教导新手司机:尽量减少伤害他人。”研究人员表示，同样的目标应该适用于自动驾驶汽车。金宝搏官网登录

参考文献

阿尔瓦雷斯，G. A.，安东尼，S. E.， Censi, A.， & De Freitas, J.(2020). 质疑无人驾驶的困境 。心理科学视角15(5), 1284 - 1288。 https://doi.org/10.1177/1745691620922201

巴提，S.， &迪特沃斯特，B. J.(2020)。人们拒绝在不确定决策领域的算法，因为它们对预测错误的敏感性逐渐降低。 心理科学， 31(10)， 1302-1314. https://doi.org/10.1177/0956797620948841