与医疗保健中的AI相关的6种严重风险

小编发现不少朋友对于 与医疗保健中的AI相关的6种严重风险 这方面的信息都比较感兴趣，小编就针对 与医疗保健中的AI相关的6种严重风险整理了一些相关方面的信息在这里分享给大家。

AI的迅速崛起可能会永远改变医疗保健，从而加快诊断速度，并使医疗服务提供商花费更多时间直接与患者沟通。但是，根据布鲁金斯学会(Brookings Institution)的一份新报告，医疗行业中与AI有关的风险也必须加以解决。

非营利组织的报告中指出了AI的六种潜在风险：

1.伤害和错误：“最明显的风险是AI系统有时会出错，并可能导致患者受伤或其他医疗保健问题，”密歇根大学法学院的作者W. Nicholson Price II写道。“如果人工智能系统为患者推荐了错误的药物，没有通过放射线扫描发现肿瘤，或者由于错误地预测了哪个患者会受益更大，而将医院的病床分配给了另一位患者，则该患者可能会受伤。”

与错误相关的AI系统将尤其令人不安，因为它们会立即影响这么多患者。此外，如果患者，患者的家人和朋友发现“计算机”是犯了重大错误的原因，他们可能不会做出很好的反应。在当今的在线患者评论时代，人们很快就知道，提供商的AI功能不可信赖。

2.数据可用性：开发合法AI算法所需的与患者数据有关的后勤工作令人生畏。即使仅收集单个患者的所有必要数据也会带来各种挑战。正如Price II解释的那样，患者“通常会看到不同的提供商和保险公司，从而导致数据拆分为多种系统和多种格式。”

3.隐私问题：当您收集患者数据时，这些患者的隐私当然应该是一个大问题。研究人员可能会努力确保患者数据保持私密性，但始终有恶意黑客在等待利用错误。即使是像Google这样的大型公司，也会遇到与患者数据和隐私有关的问题，这表明参与AI的每个人都必须认真对待。

Price II补充说：“ AI可能以另一种方式隐含隐私：即使算法从未收到该信息，AI也可以预测有关患者的私人信息。”

4.偏见和不平等：根据该报告，如果用于训练AI系统的数据甚至包含最微弱的偏见暗示，那么这种偏见将出现在实际的AI中。

Price II写道：“例如，如果可用于AI的数据主要是在学术医学中心收集的，那么所得的AI系统将了解较少(因此治疗效果会较差)来自通常不访问学术医学中心的人群的患者。” 。“类似地，如果使用语音识别AI系统来记录遇到的笔记，那么当提供者的种族或性别在培训数据中所占的比例不足时，这种AI的性能可能会更差。”

5.专业重组：实施AI技术的长期风险之一是，它可能导致“医学专业的转变”。

Price II写道：“一些医学专科，例如放射学，很可能会随着他们的大部分工作变得可自动化而发生重大变化。“一些学者担心，随着时间的流逝，人工智能的广泛使用将导致人类知识和能力的下降，从而使提供者失去捕捉和纠正人工智能错误并进一步发展医学知识的能力。”

6.涅磐谬误： Price II解释说，涅磐谬误是在将新选项与理想方案而不是之前的理想方案进行比较时发生的。换句话说，在AI实施之后，患者护理可能不是100%完美，但这并不意味着事情应该与以往保持一致。

这种现象会发生并导致医疗体系不采取任何行动吗?