研究人员研究了AI在外科手术环境中的伦理意义

发布时间：2020-08-03 14:45:18 【来源：】

由向量研究所为人工智能研究所的研究人员合着的一份新白皮书探讨了外科手术中AI的伦理学，从而证明了外科手术和AI有着相似的期望，但在伦理理解方面存在分歧。该论文指出，外科医生理所当然地面临着道德和伦理困境，而人工智能中的伦理框架可以说只是刚刚形成。

在外科手术中，人工智能的应用主要限于完全由外科医生控制的机器。共同作者认为，人工智能也可能会用于临床决策支持系统中，在这种情况下，责任的重担将落在机器或人工智能系统的人工设计者身上。

隐私是最重要的道德问题。人工智能学会从大数据集(尤其是外科手术系统的患者数据)中做出预测，通常被描述为与隐私保护做法不符。伦敦皇家免费NHS基金会信托基金是总部位于伦敦的英国国家卫生局的一个部门，未经其同意，向Alphabet的DeepMind提供了160万患者的数据。另外，去年11月与Ascension共享健康数据的合作伙伴关系成为Google的审查对象，谷歌放弃了计划发布胸部X光扫描的计划，原因是担心它们包含个人身份信息。

州，地方和联邦各级的法律旨在使隐私成为合规管理的强制性部分。在美国的50个州，领地和哥伦比亚特区，数以百计的涉及隐私，网络安全和数据泄露的法案正在等待或已经通过。可以说，其中最全面的《加利福尼亚消费者隐私法》大约在两年前就已签署成为法律。更不用说国家健康保险流通与责任法案(HIPAA)，该法案要求公司在披露个人健康信息之前必须寻求授权。欧盟的《通用隐私数据保护条例》(GDPR)等国际框架旨在使消费者更好地控制个人数据的收集和使用。

但是白皮书的共同作者认为，迄今为止采取的措施受到司法管辖区解释的限制，并提供了不完整的道德模式。例如，HIPAA专注于患者记录中的医疗保健数据，但不涵盖在人寿保险公司或健身乐队应用程序等承保实体之外生成的数据源。此外，虽然患者自治的义务暗示了对AI做出的决定进行解释的权利，但GDPR之类的框架仅规定了“知情权”，并且似乎缺乏说明针对AI做出明确定义的保护措施的语言。

除此之外，合著者还对偏见对AI手术系统的潜在影响发出了警告。培训数据偏差与用于培训AI系统的数据的质量和代表性有关，可能会严重影响手术前的术前风险分层。人口统计学的代表性不足也可能导致评估不准确，导致做出错误的决定，例如是先治疗患者还是提供大量ICU资源。当在算法的训练范围之外采用算法时会发生上下文偏差，这种偏差可能导致系统忽略了一些重要的警告，例如外科医生是右撇子还是左撇子。

存在减轻这种偏差的方法，包括确保数据集的差异，对过度拟合应用敏感性训练数据，并让人在回路中检查新数据的部署情况。合著者主张广泛使用这些措施和提高透明度，以防止损害患者的自主权。他们写道：“已经越来越依赖自动化决策工具，减少了医疗服务提供者与患者之间进行有意义对话的机会。”“如果机器学习还处于起步阶段，那么负责解释其内部工作原理的子领域就处于萌芽状态，以至于其术语尚未形成。但是，可解释性的几个基本属性已经开始出现……[认为]机器学习应该是同时的，可分解的和算法上透明的。”

尽管AI有缺点，特别是在外科手术方面，但合著者认为AI可以防止的危害胜过采用方面的弊端。例如，在甲状腺切除术中，存在永久性甲状旁腺功能低下和反复神经损伤的风险。采用新方法可能需要执行数千个步骤才能观察到统计学上的显着变化，而单个外科医生可能永远不会观察到-至少在短时间内不会观察到。但是，基于AI的分析存储库将数百个站点中的数千个案例汇总在一起，将能够识别并传达这些重要模式。

“人工智能技术的不断进步将大大增加其职责的广度和深度。从进度曲线推断，我们可以预测机器将变得更加自治。”合著者写道。“自治的兴起使得我们必须更加关注我们需要仔细研究的道德视野……就像当前实践中的道德决策一样，如果机器学习仅由委员会精心设计，它将不会有效—它需要暴露于现实世界中。”

上一篇：苹果公司超越沙特阿美成为全球市值最高的上市公司
下一篇：MIT CSAIL的系统在做出预测时可以听从专家的意见