一、 引言：多智能体系统的崛起与“解释性”的局限
2026年的医疗人工智能正处于从“辅助工具”向“算法医疗系统”进化的临界点。随着大语言模型技术的成熟，多智能体系统被广泛应用于处理复杂的医疗决策任务。这些系统通过整合诊断、风险分层、诊疗计划制定等不同专业领域的智能体，实现了分布式智能与并行处理，极大地提升了医疗服务的效率与覆盖范围。
然而，这种复杂性的提升带来了严峻的信任与治理挑战。现有的可信AI框架主要依赖于“可解释性AI”，即向临床医生解释模型为何做出某种推荐。本文指出，这种范式在多智能体环境中存在根本性的缺陷：解释通常是描述性的和事后的。
在多智能体互动中，决策结果往往源于多个智能体之间的协商、博弈或聚合，当最终结果出现临床不当、偏见或安全隐患时，仅仅知道“为什么”是不够的。临床医生需要一种机制来质疑、修正或推翻系统输出。目前的系统允许人类“理解”，但不支持人类“干预”。这种“语境错位”导致了医疗AI领域的一个核心悖论：系统越智能，其决策过程对人类而言可能越像一个无法干预的“黑箱”。
基于此，本文提出了一个核心论点：可辩驳性是可信多智能体算法护理（医疗）系统的必要设计要求，而非可解释性的可选扩展。
二、 核心概念：什么是“可辩驳性”？
本文借鉴了法律和监管领域的概念，将“可辩驳性”定义为：诊疗伙伴（如临床医生、患者或监管机构）质疑AI系统输出的能力，要求在系统层面进行辩护，干预决策过程，并启动审查、纠正或覆盖机制的权利。
这一概念与“可解释性”有着本质的区别：
●可解释性：侧重于单向的信息流（AI→人类）。它回答“为什么AI这么认为？”。
●可辩驳性：侧重于双向的互动循环（AI↔人类）。它支持“人类如何质疑AI，并改变其决定？”。
在多智能体（医疗）护理的背景下，可辩驳性具有特殊的意义。它不仅仅是针对单一模型的调试，而是涉及对系统级行为的控制。例如，在一个包含风险评估、功能评估和护理协调智能体的系统中，如果整体决策出现错误，可辩驳性机制需要允许人类识别是哪个智能体的推荐有误，或者智能体之间的聚合逻辑出了问题，并提供工具进行修正。
三、 示范框架：可辩驳自适应专家网络（科努）
为了验证这一理论，研究团队构建了一个名为可辩驳自适应专家网络（科努）的人机协同框架。该框架旨在为“就地养老”场景生成个性化护理计划，其核心流程分为四个阶段：
1、医疗记录、复杂性评估与团队招募（阶段1）
系统首先基于患者的电子病历构建初始状态P。随后，系统计算病例的复杂性评分c，并据此动态招募一组“专家智能体（A）”。这些智能体代表不同的临床角色（如注册护士、药剂师、全科医生、营养师、社工等），每个角色都配备了特定的领域知识和提示词。
2、争辩式智能体框架与协作讨论（阶段2）
这是“科努”框架的创新核心。不同于传统多智能体系统追求快速达成共识，“科努”鼓励结构化的分歧。
●双向论证：对于每一个候选干预措施o，每个智能体a必须生成两类论证：支持和反对。
●量化双极论证框架：系统利用量化双极论证框架模型来处理论证之间的关系。每一个论证x都有一个内在强度τ(x)（基于事实准确性和相关性计算）。同时，论证之间存在“支持关系”R+和“挑战关系”R−。
例如，物理治疗师提出的“患者拒绝使用助行器”会挑战护士提出的“立即开始步行计划”。
●动态置信度计算：系统通过迭代算法计算每个论证的最终置信度f(x)，并聚合生成选项级的置信度F(oi)。这种机制模拟了真实的医疗会诊过程，让证据在冲突中浮现。
3、基于角色的人机协同辩驳（阶段3）
这是实现“可辩驳性”的关键环节。系统将第二阶段生成的论证池Γ呈现给人类护理规划师。
●结构化干预：人类评审员可以基于其专业判断，对论证进行四种操作：接受、拒绝（视为无关或危险）、修改内容或添加新的论证。
●闭环反馈：人类的修改会重新注入量化双极论证框架模型，系统会重新计算置信度，确保人类的干预能够实质性地改变最终结果。这保证了人类不仅是“观察者”，更是决策的最终仲裁者。
4、护理计划生成与执行（阶段4）
最后，系统利用经过人类辩驳验证的论证集ΓV和置信度分数，生成最终的护理计划。该计划不仅包含推荐的干预措施，还附带了完整的证据链和决策理由。此外，系统还集成了模型上下文协议，能够将推荐转化为具体的日程安排任务（如预约检查）。
四、 深度剖析：可辩驳性如何重塑医疗AI的信任基石
这项研究对当前的AI医疗研发范式提出了深刻的批判与重构。
1、从“共识导向”转向“异议管理”
现有的多智能体系统研究往往致力于通过投票或聚合算法消除分歧，以达成单一结论。然而，本文指出，分歧本身就是一种价值。在医疗领域，忽略反对意见可能导致灾难性的误诊。“科努”框架通过强制智能体生成反论证，实际上是在系统内部构建了一个“红队”机制，这比单纯的事后检查更能发现潜在的医学幻觉或逻辑漏洞。
2、人类代理权的回归
本文深刻地指出，没有可辩驳性的可解释性，实际上剥夺了临床医生的代理权。如果医生只能看到AI的理由，却无法在系统内部修正AI的错误，那么医生就变成了被动的执行者。可辩驳性通过提供“修正途径”，确保了在高风险护理环境中，人类始终掌握最终的临床责任和控制权。
3、应对“系统级幻觉”
传统的检索增强生成和微调主要解决事实性错误。但在多智能体系统中，错误往往源于推理过程的缺陷（如忽略特定情境、错误的因果假设）。通过量化双极论证框架和人类辩驳，系统能够捕捉到这些基于逻辑的“系统级幻觉”，这是单纯增加知识库无法解决的问题。
五、 未来愿景与实施挑战
本文在最后提出了五个关于未来算法护理生态系统的愿景：
1、以个人为中心的护理分析：建立快速、低负担的评估方法和高质量的检索增强生成系统。
2、通过可辩驳性实现以人为本的部署：将“可辩驳专家网络”作为护理工作流的标准组件。
3、专家团队协调：利用可辩驳网络作为多专业团队的共享推理层，解决沟通断层。
4、可扩展的护理生态系统：允许安全地引入新专家角色，同时保持可解释性。
5、持续评估与治理：利用辩驳过程中产生的丰富数据（如被推翻的论证、持续的分歧）进行系统的持续监控和更新。
然而，实施路径并非坦途。本研究也诚实地指出了面临的挑战：
●工作流负担：结构化的辩驳和论证审查可能增加临床医生的认知负荷，特别是在时间紧迫的情况下。
●责任归属的模糊：当决策由多个智能体和人类共同塑造时，一旦出现不良后果，法律责任的界定将变得异常复杂。
●文化适应性：并非所有的社区或医疗文化都习惯于通过“辩论”来制定护理计划，这种基于逻辑实证的模式可能需要文化上的调适。
六、 结语
这是一篇具有里程碑意义的文献。它敏锐地捕捉到了医疗AI从“单体模型”向“多智能体社会”演进过程中的治理真空。
通过提出“科努”框架，研究团队不仅提供了一个技术解决方案，更确立了一个伦理准则：在算法日益渗透医疗核心决策的时代，信任不能通过单向的“解释”来购买，而必须通过双向的“辩驳”和“修正”来赢得。只有当系统允许并欢迎人类的挑战，且人类拥有实质性的修正权力时，AI才能真正成为值得信赖的治疗和护理伙伴。
如需要《多智能体算法护理系统对可信AI的可辩驳性需求》（英文，共13页），请在本微信公众号中赞赏（点喜欢或稀罕作者后按本公众号设定打赏）后，发来email地址索取。
To rewrite your fate, refine Your inner circle. 想改命运，就换圈子。早上好！
