医生忙不过来,用AI帮忙写病历——听起来很美,对吧?加拿大安大略省政府前几年就批量采购了一批AI医疗记录工具,给全省的医生用。结果最新审计报告打脸:20款通过政府审核的AI工具,每一款都有问题。
安大略省审计长最近发布了一份关于"政府使用人工智能"的专项报告,测试方法很直接——用两个模拟医患对话,让这20款AI工具分别生成记录。结果:
(1) 全部20款都出现了准确性问题或信息缺失
(2) 9款直接编造了不存在的信息,比如虚假转诊、根本不存在的治疗方案
(3) 12款错误记录了处方药名称
(4) 17款漏掉了患者提到的心理健康信息
翻译成人话:医生用这些AI写的病历,可能把根本没说过的话写进病历,可能记错药名,可能漏掉关键的心理健康病史。
审计报告里还提到一个更离谱的点:这套AI系统的"准确度"评分在政府采购评分体系里只占4%。另一个指标"在安大略省的本土存在"占30%。所以一款AI如果准确度为零,但"本土化做得好",照样能通过政府审核。
最讽刺的是:这些工具已经被全省的医疗机构采购使用了。虽然不是强制使用,但政府背书推荐的工具,基层医生有多少人会去怀疑?
AI医疗记录工具这些年火遍北美,号称能让医生从文书工作中解放出来。多伦多某诊所的医生接受采访时说:"用了AI确实省时间,但每次都要花双倍时间核对它有没有瞎编。"
这件事给普通人的启示:别以为披上"AI+"外衣的医疗工具就靠谱。尤其当它出现在政府推荐清单里的时候,可能只是政府审核标准有问题,不代表这东西真的好。
你信政府的清单,还是信你面前那个正在认真看病的医生?
正文完