《患者安全与人工智能：医疗服务的机遇与挑战》
2025年4月27日
![图片]()
《患者安全与人工智能：医疗服务的机遇与挑战》这份报告探讨了生成式人工智能在医疗领域的应用对患者安全的影响。报告汇集了专家小组的意见，该小组由来自医疗保健、科技和伦理领域的专家组成，他们对生成式人工智能在医疗中的三个主要应用案例进行了评估：临床文档支持、临床决策支持和面向病人的聊天机器人。
报告首先指出，2022年OpenAI发布ChatGPT标志着生成式人工智能发展的一个重要里程碑，其在医疗领域的应用潜力巨大，包括提升医疗安全和质量、降低成本以及改善患者和临床医生的体验。然而，生成式人工智能也带来了新的患者安全风险，例如生成式人工智能可能产生不准确甚至虚构的结果（幻觉），以及可能存在的偏见和临床技能下降（由于新技术的引入而降低完成工作所需的技能水平）的风险。
![图片]()
报告详细分析了生成式人工智能在三个应用案例中的机遇和挑战：
●临床文档支持: 生成式人工智能可以帮助临床医生减少繁重的文书工作，例如自动生成临床记录、总结病历以及回复电子病历中的信息。这可以减轻临床医生的负担，提高效率，并使他们能够将更多时间用于与患者互动。然而，报告也指出，生成式人工智能生成的文书可能缺乏个性化，甚至可能导致临床技能下降。为了确保安全，需要对生成式人工智能的输出进行人工审核，但报告强调，仅仅依靠人工审核并不可靠，因为人在持续警惕性方面存在局限性。报告建议采用多种策略来提高人工审核的有效性，例如对人工智能输出的置信度进行颜色编码，定期测试人工审核人员的警惕性，以及对临床医生修改人工智能生成内容的频率进行审计。
●临床决策支持: 生成式人工智能可以分析大量的患者数据，为临床医生提供诊断和治疗建议。这可以提高诊断准确性，节省临床医生的时间，并降低医疗成本。然而，报告指出，目前生成式人工智能临床决策支持系统的有效性证据有限，并且存在算法透明度不足、数据偏差以及整合到现有工作流程中的挑战等问题。报告强调，生成式人工智能临床决策支持系统应该作为临床医生的辅助工具，而不是最终的决策者。验证生成式人工智能临床决策支持系统的有效性也面临挑战，因为需要构建更复杂的患者队列并针对多种可能的诊断进行评估。
●面向患者的聊天机器人: 生成式人工智能聊天机器人可以扩展医疗服务的可及性，并提供可靠的医疗信息。这可以改善患者体验，并减轻临床医生的工作负担。然而，报告也指出，聊天机器人可能产生误导性甚至有害的信息，并且需要确保其准确性和及时性。此外，聊天机器人也可能影响患者与临床医生之间的信任关系。报告建议，医疗机构应向患者明确告知聊天机器人的使用情况，并建立相应的升级机制，以确保患者能够及时获得必要的医疗服务。
![图片]()
为了最大限度地发挥生成式人工智能的益处并降低其风险，报告提出了以下建议：
●以患者为中心: 生成式人工智能工具的设计和实施应始终以患者为中心，确保患者能够充分了解生成式人工智能的使用情况，并拥有知情同意权。
●与临床医生合作: 生成式人工智能工具的开发和实施应与临床医生密切合作，听取他们的意见和建议，并提供必要的培训和支持。
●评估和确保人工智能的有效性和无偏见性: 需要对生成式人工智能工具进行严格的测试和验证，以确保其有效性和无偏见性。
●建立严格的治理、监督和指导机制: 需要在医疗机构和政府层面建立严格的生成式人工智能治理、监督和指导机制。
●设计、实施和持续评估人工智能工具: 生成式人工智能工具的设计、实施和持续评估应有计划性，并遵循以人为本的设计原则。
●促进医疗机构间的协作学习: 医疗机构间应加强合作，分享生成式人工智能应用的经验和教训。
![图片]()
报告还探讨了生成式人工智能对患者安全领域本身的影响。生成式人工智能可以帮助简化事件报告流程，利用患者数据更好地识别危险情况并提出改进建议。这可以帮助医疗机构从被动应对错误转变为主动预测和预防错误。
报告总结指出，生成式人工智能有潜力彻底改变医疗服务，包括对患者安全和医疗质量产生积极影响。然而，生成式人工智能的应用必须谨慎进行，并充分认识到新技术可能带来的意想不到的后果。利益相关各方需要通力合作，以负责任的方式实施生成式人工智能，以确保其安全有效地应用于医疗领域。报告强调，生成式人工智能工具的成功实施，更依赖于医疗机构内部的实践和患者的参与，而非仅仅依靠外部监管机构的行动。最终，生成式人工智能能否真正改善患者安全，取决于各方能否有效地应对其带来的机遇和挑战。
