这篇文章描述了“我的手术风险”系统的用户中心化设计过程，“我的手术风险”是一个可解释的人工智能临床决策支持系统，用于实时预测手术患者术后9种并发症的风险。研究通过半结构化焦点小组和访谈，收集了来自不同职业阶段的20位围手术期医生（外科医生、麻醉师和重症监护医生）的反馈，以了解他们当前的决策流程、对“我的手术风险”原型系统的看法以及对该系统信任度的考量。研究结果强调了可解释性、可操作性和系统与现有电子病历系统无缝集成的重要性，为可解释人工智能在围手术期护理中的应用提供了宝贵的见解。
研究背景与目的
手术决策是一个复杂的过程，涉及对手术风险和术后并发症的权衡。传统的手术风险评估方法依赖于医生的临床经验和启发式判断，以及一些基于规则的临床决策支持系统，例如美国外科医师学会国家手术质量改进计划风险计算器。然而，这些方法存在局限性：人工输入数据繁琐，数据粒度不足，难以处理大量临床数据，并且容易受到医生主观判断和经验差异的影响。
人工智能算法的引入为解决这些问题提供了新的途径。人工智能驱动的临床决策支持系统可以利用大量的临床数据，进行近乎实时的风险预测，并辅助医生做出更准确的决策。然而，人工智能系统的成功应用依赖于其可解释性、可操作性以及用户对系统的信任度。“黑箱”问题是医疗人工智能领域一个长期存在的挑战，可解释人工智能旨在通过解释模型的预测过程来提高透明度和信任度。为了开发出真正有用的解释人工智能工具，必须将最终用户——临床医生——纳入到设计过程中。
本研究旨在通过用户中心化设计方法，了解围手术期医生在手术风险评估中的认知需求和偏好，并收集他们对“我的手术风险”原型系统的反馈，为该系统的改进和最终实施提供指导。
研究方法
本研究采用定性研究方法，包括半结构化焦点小组讨论和个别访谈。研究对象为来自美国东南地区一家大型三级医院的20位围手术期医生，包括外科医生、麻醉师和重症监护医生，涵盖了不同的职业阶段。
研究过程分为三个阶段：
●收集背景信息: 研究人员首先向参与者讲述了一个手术病例，并提出问题以了解他们当前的工作流程和决策过程。
●原型演示: 研究人员向参与者演示了“我的手术风险”原型系统的网页界面及其功能，包括模型卡片、患者特征、手术信息、预测的术后并发症风险评分以及与之相似的回顾性患者的结局信息。
●反馈收集: 研究人员引导参与者对用户界面、系统功能以及其他方面提供反馈。
研究人员对访谈记录进行了定性编码和主题分析，最终确定了五个主要主题：决策认知过程、当前决策方法、“我的手术风险”未来应用、对“我的手术风险”原型的反馈以及信任度考量。
研究结果
研究结果显示，参与者普遍认为“我的手术风险”是一个有前景的临床决策支持系统工具，它可以处理大量数据，并进行实时计算，无需手动输入数据。然而，“我的手术风险”的成功实施依赖于以下几个关键因素：
●可解释性: 参与者强调需要清晰地了解模型的输入变量、权重以及预测结果的计算方法。模型的透明度是建立信任的关键。
●可操作性: 参与者希望模型能够提供可操作的见解，帮助他们识别可改变的风险因素，并指导术前优化和干预措施。
●系统集成: 参与者希望“我的手术风险”能够无缝集成到现有的电子病历系统中，以方便使用。
●数据质量: 参与者指出电子病历中的数据经常不一致或缺失，这可能会影响模型的准确性，因此需要采取措施来提高数据质量并确保模型的透明度。
●信任度: 参与者强调，“我的手术风险”不应该取代临床判断，而应该作为辅助工具，帮助医生做出更明智的决策。对模型的信任度取决于模型的准确性、透明度以及与临床经验的一致性。
参与者还对“我的手术风险”的界面设计、功能以及在临床实践中的应用提出了具体的建议，例如改进界面布局、提供更清晰的风险评分解释、增加可视化显示、提供患者面对的简化版本等。
结论
本研究通过用户中心化设计方法，深入了解了围手术期医生对人工智能驱动的临床决策支持系统的需求和期望。研究结果表明，“我的手术风险”系统有潜力提高手术风险评估的效率和准确性，但其成功实施依赖于可解释性、可操作性、系统集成以及用户信任度的建立。未来的研究应该进一步测试用户界面的易用性，并调查其他利益相关方（例如护士、患者和医院管理人员）的观点，以确保“我的手术风险”系统能够更好地满足临床需求。这项研究也为其他人工智能临床决策支持系统工具的设计、实施和推广，提供了有益的经验。
