这篇题为 《从“麦斯”到“马斯”：医疗场景中多智能体机器人系统中的协调失败和推理权衡》的文章研究了将“多智能体系统”（ “麦斯”）应用于“多智能体机器人系统”（“马斯”）时遇到的挑战，特别是关注在医疗等高风险环境中，机器人团队的协调失败和不同推理能力模型之间的性能权衡。文章通过两个研究来探讨分层“马斯”框架的性能权衡，并强调了自主性和稳定性之间的张力，以及边缘情况测试对于提高系统可靠性和安全性的重要性。
该研究的出发点是大语言模型（LLM）的扩展性问题。随着大语言模型能力提升的边际效益递减，研究人员开始转向“麦斯”，以应对更复杂的任务。然而，将“麦斯”应用于“马斯”带来了新的挑战，尤其是在医疗等高风险领域，物理约束（如机器人数量有限、硬件瓶颈和高昂的运营成本）、严格的安全和可靠性要求，使得系统需要具备更强大的协调能力和容错能力。现有的“麦斯”协调模式分析往往忽略了真实世界的复杂性，例如缺乏对过程级评估和团队级协调中推理能力影响的深入研究。
为了弥补现有研究的不足，本文设计了一个可控的医疗场景模拟实验，该场景能够系统地引入各种挑战和边界条件，例如团队级恢复逻辑和分层角色解释。这个场景模拟了急诊室患者接诊的流程，机器人需要在资源受限、角色明确定义和容错率低的情况下运行。本文利用两项研究来评估最先进的多智能体框架（“团组AI”和“自动生成系统” ）在该场景下的性能。
研究1：评估分层“马斯”协调中的失败
研究1使用“团组AI”框架，通过迭代改进系统的知识库（KB），系统地识别和分类协调失败，例如工具访问冲突、缺乏及时处理故障报告等。研究发现，虽然充足的上下文知识是必要的，但系统结构仍然是健壮协调的瓶颈，不同的推理能力会导致不同的失败模式。即使提供了详细的上下文知识和流程知识，仍然存在一些关键的协调失败，例如：角色错位、工具访问冲突、缺乏及时处理故障报告、不遵守规定的工作流程以及绕过或虚报任务完成情况。这表明问题不在于信息的可获得性，而在于系统结构的局限性，这些局限性阻碍了及时的沟通和干预。
研究2：结构重新设计和模型比较
研究2在研究1的基础上，进一步研究了通信结构和模型推理能力的影响。研究2-1使用“自动生成系统”框架，重新设计了双向通信结构，通过主动的管理者反馈和下属级别的解释和报告机制，来改进故障处理。结果显示，改进后的通信结构显著提高了系统的成功率和各个方面的性能指标，特别是故障处理方面有了显著提升。研究2-2比较了具有不同推理能力的模型（GPT-4o和o3）的性能。 结果表明，强大的推理模型（o3）在规划和团队协调方面表现更出色，但也会由于其推理的主动性而引入更多样化的失败模式。而非推理模型（GPT-4o）的失败模式较少，但这并非源于其更强的解决问题能力，而是由于缺乏主动推理，限制了其自主性和适应性。
文章通过对模型行为的定性分析，总结了“马斯”协调模式的四个主要主题：规划粒度和执行一致性、任务和组织角色解释、通信稳健性和格式遵从性以及任务终止和验证。研究发现，强大的推理模型能够进行更细致的规划，并主动协调团队，但同时也更容易偏离指令，并陷入冗余的推理中。而较弱的推理模型虽然失败模式较少，但其自主性和适应性也受到限制。
结论与未来工作
本文的结论是，在真实世界环境中部署“马斯”，自主性和稳定性之间存在着深刻的张力。上下文知识对于提高程序执行效率是必要的，但系统结构才是性能的瓶颈。强大的推理能力并不保证协调行为的稳定性，需要对推理风格进行适当的约束和引导。未来工作包括研究更深层次的分层结构中的故障恢复，以及探索更多样化的边缘情况，以更好地刻画失败边界。总而言之，本文为在真实世界中部署可靠和安全的“马斯”系统提供了宝贵的经验和见解。
本研究的代码、任务智能体设置、跟踪输出以及协调失败和推理行为的注释示例，可在文中提供网址上获得。
如需要《从“麦斯”到“马斯”：医疗场景中多智能体机器人系统中的协调失败和推理权衡》（英文，10页），请在本微信公众号中赞赏（点喜欢或稀罕作者后按本公众号设定打赏）后，发来email地址索取。
Sometimes people try to destroy you, precisely because they recognize your power - not because they don't see it, but because they see it and they don't want it to exist. 有时，世人欲毁汝，非因不见汝之光，乃是深知其耀，不容其存。早上好！
