尽管人工智能在医学诊断中的应用正在增长,但阿德莱德大学的一项新研究发现,与临床医生相比,人工智能仍然存在重大障碍。
在《柳叶刀数字健康》上发表的一篇论文中,澳大利亚机器学习研究所的博士生 Lana Tikhomirov、教授 Carolyn Semmler 和阿德莱德大学的团队利用外部研究来探究所谓的“人工智能鸿沟”。
人工智能鸿沟的出现是因为人工智能决策系统的开发和商业化已经超出了我们对其对临床医生的价值以及它们如何影响人类决策的理解。
“这可能会导致自动化偏见(对人工智能错误视而不见)或误用等后果,”蒂霍米罗夫说。“对人工智能的误解也限制了我们最大限度地利用这项新技术并适当增强人类的能力。
“尽管之前已经对技术在其他高风险环境中的实施进行了研究,例如飞机驾驶舱的自动化程度提高,以了解和改进其使用方式,但评估人工智能在临床医生中的应用仍然是一个被忽视的领域。我们应该把人工智能更多地当成一种临床药物,而不是一种设备。”
研究发现,临床医生是受背景驱动、思维丰富的决策者,而人工智能模型则在做出决策时不考虑背景或不了解数据和患者之间的关联。