研究人员旨在衡量不精确的医学数据对AI预测的影响

发布时间：2020-07-28 10:42:15 【来源：】

在预印服务器Arxiv.org上发表的一项研究中，东华大学和加利福尼亚大学圣塔芭芭拉分校的研究人员着重指出，将不准确的医学数据馈送到AI和机器学习算法时会带来危险。他们发现，学习算法可以在不确定的影响下进行计算，从而导致结果范围可能导致标签错误和不适当的处理。

临床实验室测试在医疗保健中起着重要作用。实际上，据估计，从早期发现到疾病诊断，测试结果将指导70%以上的医疗决定和处方。医疗数据集的可用性似乎使健康成为AI和机器学习的天然契合点。但是由于设备，仪器，材料和测试方法的局限性，经常会出现数据不准确的情况(由于试剂，控件，校准器过期和采样系统故障)，可能会影响AI系统的准确性。根据2006年的一项研究，实验室错误的患病率可能高达每330至1,000个事件，每900至2,074名患者，或每214至8,316个实验室结果之一。

为了量化不精确度对AI系统结果的影响，团队设计了一个模型来表示数据不精确度，该模型具有控制不精确度的参数。该模型生成用于比较实验的不精确样本，可以使用一组度量来评估该样本，以确定对单个患者的预测如何不一致。它还可以识别由于不准确的预测而导致的数据贴错标签。

在一个实验中，研究人员将医学数据库中数据的预测结果与不精确模型生成的相应预测进行了比较。他们使用了上海瑞金医院的甲亢资料，包括2至10年的2460位患者记录，训练和测试了不精确模型，每个实验进行了10次并取平均结果。

研究小组报告说，产生的不精确模型的数据导致促甲状腺激素受体抗体和促甲状腺激素(驱动甲状腺产生促新陈代谢的甲状腺素和三碘甲状腺素的垂体激素)的预测水平异常低或异常高。他们写道：“通过在数据中引入不精确性，可以容易地将预测标签从正确更改为错误，或从错误更改为正确以校正这些范围，”“该研究为实际的医疗保健应用提供了直接指导……它激发了建立健壮的模型的可能性，该模型可以将不精确性考虑在内，并能更好地进行概括。”

尽管这项研究的发现可能有些明显，但它们是有关在医学中部署AI的辩论中的另一个数据点。Google最近发布了一份白皮书，发现预测眼疾的系统在现实世界中是不切实际的，部分原因是技术和临床失误。STAT报告称，未经证实的AI算法已用于预测COVID-19患者的人数下降。像巴比伦健康公司这样的公司声称其系统可以像人类医生一样诊断疾病，也受到了监管机构和临床医生的审查。

“人工智能的潜力已得到充分描述，但是现实中，卫生系统面临一个选择：大幅降低人们对日常临床实践中对人工智能潜力的热情，或者解决数据所有权和信任问题并投资于数据基础架构麻省理工学院首席研究科学家利奥·安东尼·塞利(Leo Anthony Celi)和合著者在最近的政策文件中写道，他们称之为医疗保健中人工智能的“不便之道”。“但是，如果不这样做，医疗保健领域的人工智能机会将依然存在-机会。”

上一篇：Analogue Pocket预购将于8月3日开放由于当前局势将在2021年5月发货
下一篇：Shopify的6位河流系统首席执行官谈论了查克机器人