一、背景与现实动因
随着智能体AI技术迭代，具备自主处方权限的人工智能系统从理论走向落地应用，美国《2025健康技术法案》提出赋予AI合法处方主体资格，犹他州率先开展覆盖192种慢性病药物的AI处方续方试点，标志自主AI处方进入政策试点阶段。但现有监管规范存在显著短板：当前FDA等机构仅要求AI上市提供整体模型性能指标，未强制要求单病例校准置信度阈值、区分两类不确定性、单条决策可追溯推理透明机制，临床安全、权责划分体系存在巨大空白。
现有医疗AI相关研究多聚焦辅助型决策工具，极少针对完全自主处方系统开展临床医师实证调研。自动化偏见、算法黑箱、权责模糊等风险持续凸显：若AI可不经医师审核直接开具药物，一旦发生药品不良反应，临床医师极易成为责任兜底方，引发行业抵触。本文以136名拥有美国处方资质临床医师的调研数据为实证基础，提出自主AI处方系统落地的三项底层强制架构标准，论证“医师否决权”是安全部署的核心约束，厘清人机权责边界，为相关立法、器械监管、系统开发提供技术与伦理双重依据。
二、核心理论框架：自主AI处方三大最低安全架构要求
文章提出，任何具备自主处方能力的智能体系统，必须同时满足三项不可缺失的技术设计规范，三者共同构成医师行使否决权的底层支撑，缺少任意一项均无法安全投入临床使用。
1、带置信度校准的分级升级复核机制
模型置信度需完成精准校准，杜绝大模型普遍存在的过度自信缺陷。系统设置固定置信阈值：当模型判断病例置信度低于标准时，自动终止自主处方流程，强制推送至临床医师复核；高置信度病例方可执行自主开药。调研数据显示67.4% 的医师明确表示，若无该机制将完全拒绝AI自主处方权限；相较无分级系统，医师对校准型AI的安全性评分显著更高。同时调研未形成统一共识：由多方行业联合体、监管机构设定阈值的支持人数合计占比近60%，仅5.3% 医师认可由AI企业自主划定复核标准。
2、两类不确定性差异化交互展示机制
本文严格区分两种临床不确定场景：一是偶然不确定性（固有临床模糊），即病例本身存在多套循证治疗方案，无绝对最优用药选择；二是认知不确定性（模型知识缺失），即训练样本缺少同类病例，AI无可靠判断依据。调研证实医师交互偏好存在明显分化：偶然不确定场景下71%希望系统展示多套备选用药方案供医师权衡；认知不确定场景中46.9%要求系统仅展示原始临床数据、不给出任何推荐方案，规避自动化偏见导致医师盲从错误AI结论。该差异化展示设计是落实医师否决权的关键交互保障。
3、单决策级推理透明（即时可溯源）
文章区分两层透明度概念：文档透明度（上市前整体模型报告）、推理透明度（每一次处方决策实时完整推理链条）。现行监管仅要求前者，存在巨大安全漏洞：整体指标优良的模型，针对小众、罕见患者仍会严重失准，且事后无法追溯单条处方的判断依据。只有实现即时推理透明，完整留存数据来源、指南依据、风险权衡记录，才能在药品不良事件发生后精准划分AI厂商、医院、监管机构、医师各方责任，解决“多主体追责困境”。
三、实证调研核心数据与临床医师态度结论
本次调研样本覆盖136名具备处方权从业者，75%为执业医师，其余为执业护师、医师助理；内科、全科、儿科、外科占主体，从业年限分布均衡，96.3%熟悉生成式AI，仅83.1%了解自主智能体AI，整体对AI处方接受度极低。
1、自主处方整体支持度极低
无论普通患者还是合并多种基础病复杂患者，高风险新药、高风险续方、新药开具三类场景中，反对医师占比均超83%；仅低风险慢性病续方存在少量支持者，普通患者占23.5%，复杂患者仅14%，临床医师普遍不认可AI脱离人工审核独立开药。
2、责任分配核心规律
设置四类不良事件对照场景（高/低置信、是否推送医师复核），要求医师对AI企业、监管部门、医疗机构、接诊医师、患者五方划分 0-5分责任权重。统一规律：无AI复核、医师未参与决策时，机构类主体（AI厂商、监管、医院）责任分值显著高于个人；若系统主动推送病例、医师完成复核确认，医师自愿承担更多对应责任；患者在全部场景下责任评分全程最低，即便签署AI诊疗知情同意，医师也不认为患者需承担用药风险。
3、开放性访谈负面核心诉求
64份有效开放反馈集中五大痛点：一是权责不公，AI出错却由医师承担医疗纠纷赔偿；二是大模型存在幻觉，无法精准把控剂量、药物相互作用，病历信息不全时判断失真；三是患者安全风险，自主处方会削弱随访、个体化诊疗质量；四是建议AI仅用于文书、预约等管理工作，不应介入核心处方决策；五是担忧药企资本干预算法推荐，存在商业导向用药偏差。
四、核心观点与政策启示
1、满足三项架构约束的AI系统，本质不再是完全自主智能体，而是强人工监督型临床决策工具，传统意义上的“全自主处方”在伦理与临床层面不具备落地可行性，医师否决权必须嵌入系统底层流程，而非事后补充功能。
2、当前美国相关法案过度放大AI自主权限，忽略临床安全与权责风险，监管规则需同步配套三大强制技术标准，将置信度校准、双类不确定区分、单条决策溯源纳入医疗器械审批硬性门槛。
3、责任应当与系统设计、部署、监管主体匹配，不能将风险全部转移至一线临床医师；由多行业联合委员会统一划定复核置信阈值，可平衡企业、医院、临床多方诉求。
4、行业落地建议分阶段推进：仅低风险慢病续方可有限开放AI辅助流程，所有新药、高风险药物、复杂多病种患者必须强制人工复核；同步搭建全流程审计日志，留存每一次AI推理与医师否决记录，用于不良事件溯源。
五、研究局限与未来研究方向
本文样本局限于单一大学医疗体系医师，地域、基层医疗机构从业者覆盖不足；仅通过情景问卷采集责任主观评分，缺少真实临床不良事件对照数据支撑。后续研究可扩大多地区、基层、专科医师调研范围，结合真实AI处方不良案例量化权责分配规则；同时针对混合不确定性病例（同时存在临床模糊+样本缺失）设计交互界面优化方案，完善校准阈值动态调整机制；进一步完善人机协同操作规范，在保障医师否决权的前提下释放AI文书、初筛减负价值，平衡效率与医疗安全。
六、总结
本文立足美国立法与试点现实矛盾，以大样本临床医师调研为实证支撑，打破“AI可完全自主开处方”的行业片面认知，明确三类不可缺少的系统底层安全设计，确立“医师否决权”为自主AI处方的核心管控机制。厘清了自动化偏见、算法黑箱、权责错配三大核心风险，为医疗AI器械监管、相关立法、智能体系统开发提供可落地的技术伦理标准，同时指出自主处方不能脱离医师核心判断，人机协同、医师拥有最终否决权限是长期可行的发展路径，为全球医疗自主AI治理提供实证参考。
如需要《临床医生的否决权 —— 自主AI处方系统中的信任、法律责任与不确定性》（英文，共22页），请在本微信公众号中赞赏（点喜欢或稀罕作者后按本公众号设定打赏）后，发来email地址索取。
Don't fall in love. Rise in Love. 勿为情所困，当借爱凌云。早上好！
