AI 病历抄写员遭 TGA 审查：它们算医疗器械吗？

我们是否要效仿 NHS？TGA 认为开发者正在逃避“责任、透明度和问责”。它同时盯上了数字心理健康工具。

澳大利亚药品管理局（TGA）已表示希望启动一项针对医疗场景中 AI 病历抄写员（AI scribes）的审查，以确定它们是否属于医疗器械，如果是，是否符合现行监管要求。

在本月悄然发布的报告《澄清并强化医疗器械软件（含人工智能）监管》中，TGA 对 AI 抄写员开发者措辞严厉。报告直到近日才在 LinkedIn 上引起关注。

“数字抄写员开发者声称其并非医疗器械，因为其预期目的只是总结临床诊疗记录，”TGA 指出。

“用户反映，数字抄写员经常提出超出临床医生在就诊中已确定的诊断或治疗选项的患者诊断或治疗建议。

“这一功能表明数字抄写员符合医疗器械定义，需在澳大利亚治疗用品注册簿中进行上市前审批，并可能已违反现行法规提供。”

本月早些时候，英国 NHS 发布全国优先通知，正式将 AI 抄写员归类为医疗器械；如今 TGA 似乎正朝类似方向迈进。

根据《1989 年治疗用品法》，当软件及 AI 模型/系统符合医疗器械定义时，TGA 将对其进行监管。2021 年，TGA 明确了软件分级，以“应对潜在和新兴危害风险”。

与此同时，TGA 为极低风险产品或已有其他监管机构监管的产品引入了若干“豁免条款”。

这份最新报告源于 2024 年对现行法规、指南的审查，以评估其是否足以应对“医疗软件和 AI 在医疗行业日益广泛使用所带来的挑战”。

总体而言，报告认为现有立法框架“基本合适”，但将继续与其他司法辖区的监管机构及相关利益方保持互动。

报告“发现 4”明确指出，TGA 对开发者处理 AI 抄写员监管的方式并不满意。

“需要对数字抄写员进行审查，以确定其是否为医疗器械，如果是，是否符合现行监管要求，”报告指出。

“TGA 观察到，利益相关方反映，部分开发者不愿为与现有监管体系对接提供必要的责任、透明度和问责。”

“开发者一方面表示，医疗提供者应对其选择部署的系统输出进行验证和核实，另一方面又限制访问用于训练产品或测试其运行模型的数据集信息。”

TGA 承认，与软件开发时间和成本相比，监管要求所需的时间和成本“不成比例”。

“进一步的文化问题在于，一些开发者普遍认为软件产品不会对消费者和用户构成有意义的风险，尤其是当它们与医疗服务相结合，且有人类在环，或输出仅为信息时，”TGA 报告称。

“包括临床医生和消费者在内的利益相关方指出，缺乏人类参与、缺乏透明度以及未能与现有监管要求对接，这种组合可能导致患者伤害。

“在许多情况下，用户并未意识到软件在开发过程中使用了 AI 或机器学习，或在临床工作流程中运行性地使用了 AI。”

TGA 同时针对数字心理健康工具提出质疑，报告“发现 8”指出：

“数字心理健康工具豁免条款已不再合适，需与澳大利亚医疗安全与质量委员会协作进行紧急审查。”