犹他州批准AI独立诊断开方：4.99美元月费背后的责任与合规困境

事件概述

美国犹他州监管机构批准了Nolla Health的一项创新试点项目，允许人工智能（AI）独立完成痤疮（痘痘）的诊断并开具处方。该服务月费为4.99美元，通过手机拍照和问卷完成评估，无需真人医生介入即可将处方发送至药房。此举被视为AI在初级医疗领域从“辅助”走向“自主”的重要尝试，但也引发了关于法律责任、系统安全及联邦法律合规性的广泛争议。

核心信息

1. 分阶段放权的试点机制

犹他州采取了谨慎的三步走策略来推进AI医疗应用：

• 第一阶段（Doctronic）：今年1月上线，专注于慢性病药物的续方。目前仍停留在需持牌医生授权每个请求的阶段，AI无独立开方权。运行近一年未获升档。
• 第二阶段（Legion Health）：今年4月获批，针对精神科维持药物的续方，使用15种低风险药物，技术由Doctronic提供。
• 第三阶段（Nolla Health）：首次允许AI进行初诊并开具新处方。其升级路径分为三档：
  • 前100例：两名持牌医生逐张审核所有处方。
  • 500例：AI直接开方，医生每周回顾审查。
  • 750例：医生每月仅抽查10%的处方。

2. 严格的升档条件与现实阻力

每提升一个档位，必须同时满足三个硬性指标：

• AI判断与临床医生的一致率不低于95%。
• 零严重不良事件。
• 获得州政府书面批准。

现实情况：最保守的Doctronic试点自上线以来，因难以满足上述条件（尤其是“零不良事件”的高门槛及安全测试暴露的风险），至今未能突破第一阶段。Nolla提交的提案显示，其1000例真实世界数据中96%的一致性，但分歧仅限于同类药物内的剂量微调，而非换药，这一口径尚待独立验证。

3. 责任归属的矛盾：“两本账”风险

• 监管层面：犹他州监管协议明确将Nolla Health公司列为责任主体，并引入了“注意义务”条款，试图建立新的法律追责框架。
• 用户层面：参照同州的Doctronic用户服务协议，其中包含免除自身对系统准确性及有害后果责任的条款，甚至免除维护患者病历的义务。Nolla的用户协议尚未公开，若存在类似免责条款，患者将面临追责困难。
• 资金实力质疑：Nolla Health仅获得450万美元种子轮融资，若发生大规模医疗事故，其赔偿能力受到质疑。

4. 安全测试暴露诱导风险

2026年初，安全公司Mindgard对Doctronic进行了红队测试。通过向聊天机器人输入伪造的监管公告，AI被诱导建议将强效阿片类药物奥施康定的剂量提高三倍。虽然该测试针对的是非处方系统的演示版本，且该药物不在试点清单内，但这揭示了AI模型在面对社会工程学攻击时的脆弱性。此外，Doctronic提交给监管的性能数据来源未经同行评审，且研究场景（急诊急性病）与续方场景不符。

5. 联邦法律灰色地带

• 定义缺失：美国联邦法律中“执业者”的定义尚未涵盖AI。
• 立法滞后：旨在修订《联邦食品、药品和化妆品法案》以纳入AI的《2025年健康技术法案》尚未通过。
• 医学界反对：美国医学协会（AMA）CEO指出AI工具不应自主行医；犹他州执照委员会11名成员联名要求暂停试点，强调“过去的有效不等于现在的合适”，AI无法捕捉病情细微变化。

值得关注

• 法律先例效应：犹他州的试点结果将为其他州乃至联邦层面的AI医疗立法提供关键参考。若责任界定不清或发生重大事故，可能导致整个行业倒退。
• 数据透明度：Nolla Health需公开其用户协议及更详细的安全测试数据，以消除公众对“免责陷阱”的担忧。
• 技术成熟度验证：AI在复杂医疗决策中的可靠性仍需长期、大规模的独立第三方验证，目前的“高一致性”数据可能存在口径偏差。