1、心理学家:探索人工智能在医疗保健中的伦理障碍和临床优势

上图:艾萨克·阿西莫夫——我，机器人”类风湿性关节炎。阿兹是根据Cc by 2.0。这部文集于1950年首次出版。

公众长期以来的焦虑人工智能(AI)在无数关于任性的机器人和杀手智能家居的科幻恐怖故事中，以及著名科幻作家艾萨克·阿西莫夫(Isaac Asimov)的作品中，我们日常生活中的恐惧都得到了反映。他的许多经典短篇小说，比如1950年出版的小说集我,机器人，探索人工智能如果受到机器人的三个理论规则(机器人不得伤害人类，必须服从命令，必须保护自己的存在)的约束，将如何服务或规避人类。

其中一些故事甚至涉及人工智能技术如何影响人类医疗保健的发展。在200岁的男人阿西莫夫(Asimov)在1976年发表的这篇短篇小说后来被改编成罗宾·威廉姆斯(Robin Williams)主演的电影。在小说中，作者把一个独立操作的机器人外科医生想象成一台一心一意的专业机器，“他在工作中不会犹豫，不会绊倒，不会颤抖，不会出错，”他写道。

然而，即使这种精确的自动化手术被证明比人类外科医生更有效，研究表明，对“独特性忽视”的恐惧——被视为人工智能医疗机器中的另一个齿轮——可能会使许多患者拒绝接受人工智能的诊断，更不用说接受人工智能的自动化手术了。

Chiara Longoni(波士顿大学)、Andrea Bonezzi(纽约大学)和APS研究员Carey K. Morewedge(波士顿大学)在2019年的一份报告中写道:“被人工智能提供者照顾的前景更有可能引起人们的担忧，即一个人的独特特征、情况和症状会被忽视。消费者研究杂志篇文章。“消费者认为机器只能以标准化和死记硬背的方式操作，对待每种情况都是一样的。”

通过11项调查，2500多名参与者从大学校园和亚马逊土耳其机器人朗戈尼和同事们发现，与人工提供的检查相比，人们更不愿意安排假想的自动诊断检查，也更不愿意支付费用，即使这两种检查被明确地描述为同样准确。研究发现，那些认为自己更独特的参与者更抗拒接受自动化护理，也不太可能遵循人工智能的医疗建议。

幸运的是，朗戈尼和同事们还发现，当人工智能被描述为提供“个性化护理”或支持而不是取代人类护理人员时，患者就会像接受人类医生一样接受自动护理。

隆戈尼及其同事写道:“个性化医疗似乎抑制了对医疗人工智能的抵制，因为它让消费者放心，医疗服务是根据他们自己的独特特点量身定制的，从而减轻了对独特性的忽视。”

在精神卫生保健方面，人工智能技术还可以为从业人员提供有关患者日常健康状况的新见解，支持使用更有效的干预措施。

请参阅本刊的所有文章188金宝搏官方网站。

衡量当下的幸福

将来自可穿戴设备、应用程序和社交媒体的数字生活数据整合到治疗工作中，有助于填补预约之间的“临床空白”，治疗公司SonderMind的首席数据官格伦·科珀史密斯(Glen Coppersmith)在2022年的一份报告中写道心理科学的最新方向篇文章。Coppersmith解释说，传统的临床措施依赖于患者能够通过调查和日志准确地报告他们过去的感受和行为，但是允许患者选择数字生活数据收集可以为临床医生提供丰富的被动的纵向数据，这些数据关于健康的波动，患者甚至可能没有意识到自己。

科珀史密斯在一次采访中说:“不像骨折，不管你在哪里都会骨折，心理健康几乎是在治疗师办公室之外发生的事情，在那里客户与现实世界互动。”“有充分的证据表明，当我们纳入基于测量的护理时，结果会得到改善。……这只是我们正在衡量的一种不同的、更广泛的方法。”

阅读有关《心理科学最新方向》特别版关于行为测量技术。

他建议，机器学习可以帮助识别这些数据中的模式，例如，允许人工智能提示治疗师在抑郁发作或精神崩溃的早期检查他们的患者。这些警报也可以用来鼓励患者采取行动，当他们心理健康情况变得更糟，甚至向有自杀风险的人提供“及时”干预自杀。

“它有可能带来深刻的变化，包括更好地了解什么对谁有效，导致更个性化的自我护理和治疗护理，更有效地利用治疗师的时间，更持续地而不是时间点测量某人的表现，”科珀史密斯说。

他补充说，也有很好的证据表明，这种基于测量的护理可以改善患者的预后。

例如，通过机器学习增强的预测模型可以帮助从业者根据患者的独特特征选择更有效的慢性精神疾病治疗方法。在2022年的一篇文章中临床心理科学Zachary D. Cohen(加州大学洛杉矶分校)和他的同事使用了2年的回顾性数据来预测临床抑郁症患者是否会通过继续服用目前的抗抑郁药物或接受额外的基于正念的认知行为疗法(MBCT)来获得更好的结果。当那些被预测有很高风险的病人抑郁症同时接受MBCT治疗的患者，他们复发的可能性比单独服用抗抑郁药的患者低22%。

但是，尽管由数字生命数据提供的预测建模可能为了解患者的精神状态打开了一扇新的窗口，但使用和存储这些敏感信息需要认真考虑其影响，Coppersmith承认。向患者保证，人工智能使用他们的数据将是可选择的，这有助于减轻对患者同意的担忧，但数据必须安全存储以保护他们的隐私。

对于像Coppersmith这样的行业数据科学家来说，解决这些问题可能主要需要与治疗师接触，以确定他们需要什么来将数字生活数据整合到他们的患者护理中。

算法也可能有偏见

从业人员和研究人员都已经对解决在精神金宝搏官网登录卫生保健中使用人工智能的伦理陷阱进行了相当多的思考，但仍有工作要做。例如，尽管人工智能可以用来帮助保持从业者的内隐偏见不过，如果数据集包含的少数种族、民族和文化背景的患者太少，人工智能也可能对这些人群产生偏见，Coppersmith在他的报告中指出心理科学的最新方向篇文章。例如，某些算法已被证明在识别代表性不足的群体中的抑郁症方面不太准确。他补充说，为了让这些患者从人工智能的使用中平等受益，他们需要在用于生成预测的训练数据中得到体现。

医疗人工智能有可能受到患者身份的影响，即使它不是故意获得这些信息。在2022年《柳叶刀数字健康》埃默里大学医学院的Judy Wawira Gichoya及其同事在一项研究中发现，人工智能可以从x射线图像中准确预测病人的种族，这是人类医生自己无法做到的。Gichoya及其同事解释说，如果从业者要使用基于图像的人工智能来决定病人的护理，研究人员需要了解人工智能是如何确定病人的种族的，这样才不会无意中影响它的建议。金宝搏官网登录

看看这个关于偏见和耻辱的研究集。

人类和算法偏见的相互作用可以在我们的刑事司法系统美国科学院院士罗伯特·l·戈德斯通(印第安纳大学)在他对2022年的介绍中指出心理科学的最新方向关于行为测量的特刊。一方面，研究表明，法官在没有人工智能技术建议的情况下做出决定时，更有可能在天气炎热时拒绝庇护申请，从而导致移民法的任意不平等适用和示威。另一方面，风险评估算法被证明错误地预测黑人被告再次犯罪的几率几乎是白人被告的两倍，从而导致更严厉的种族判决。

这表明，尽管人工智能有可能限制有权势的人的情绪或行为的影响偏见关于什么应该是公正的决定，这项技术并不能免受创造它的社会的偏见的影响。

戈德斯通写道:“在社会层面，通过使用客观和透明的评估来减少偏见和决策可变性的潜在好处，被无效或有缺陷的测量所带来的系统性、算法偏见的威胁所抵消。”“需要相当大的技术进步、谨慎的预见和持续的审查，才能使行为测量技术的积极影响远远超过负面影响。”

我们认为你会喜欢的相关内容>

---

研究人类行为的一种针对个人的方法

西北大学范伯格医学院的Emorie D. Beck说，从不同的人群中获取数据对于改善患者在群体水平上的结果是很重要的，但是预测个人行为结果需要一个针对个人的方法;加州大学戴维斯分校(University of California, Davis)在接受采访时表示。深入到个人层面，统计模型(包括机器学习)产生的预测可以反映人类行为的真正复杂性，包括特定人群对干预的反应。

贝克说:“当我们在做群体层面的预测时，我们讨论的是情况的不同，并假设我们可以对具有这种特征的人在这种情况下会做什么做出某种平均预测，而在针对个人的框架中，我们不会做那么多假设。”“看起来相似的人对同样的情况会做出不同的反应。”

贝克和约书亚·j·杰克逊(圣路易斯华盛顿大学)调查了个人的个性，情绪，过去对类似情况的反应可以预测他们的未来孤独，拖延症通过对104名大学生的纵向研究，研究了他们的学习习惯。参与者在2018年10月至2019年12月期间平均完成了57项评估，详细描述了他们自我报告的性格和情绪与过去一小时所做的事情之间的关系。

通过比较多种机器学习算法的准确性，Beck和Jackson发现性格和情境因素都能预测个体的孤独、拖延和学习行为，但究竟是哪种性格和情境因素预测了这些行为，以及在多大程度上预测了这些行为，在参与者之间存在显著差异。例如，最常见的关系是参与者的精力水平与他们与朋友或家人争吵的可能性之间的关系，但只有40%的参与者分享了这些，而且没有两个参与者的个人资料在他们的个性化模型中包含完全相同的因素。

贝克和杰克逊写道:“个体差异是最重要的——人们在结果的可预测性、哪些领域表现最好、哪些特征最重要等方面存在差异。”

贝克说，采用精确医学的方法进行心理评估可以帮助这种复杂性发挥作用。在即将到来的一项研究中，贝克还将探索如何通过要求参与者在调查中生成自己的项目来提高评估的预测能力。她说，这可以帮助研究人员识别出他金宝搏官网登录们以前可能没有考虑到的行为风险因素。

贝克说:“当我们考虑从道德上进行这种精确、个性化的医疗时，我们需要密切关注与我们合作的人，以及他们所处的社区。”“我们必须将人们视为自身健康和健康的利益相关者幸福因为如果我们不这样做，它们就会变成我们可以操纵的齿轮，我们就会忽视任何干预可能给人们带来的真正后果。”

对本文的反馈?电子邮件aps188金宝搏官方网站observer@psychologicalscience.org或者登录评论。有兴趣给我们写信吗?阅读我们的贡献者的指导方针。