图片

《医疗人工智能工具包》是2024年7月23日发布的第二版工具包，是一份旨在帮助医疗机构和从业者更好地理解和应用AI技术的综合性指南。该工具包由美国远程医疗办公室、医疗卫生资源和服务管理局、卫生部以及加州州立农村医疗卫生办公室资助，但所提供的信息和结论并不代表官方立场或政策，也不应被解释为对任何商业产品或服务的背书。

 

随着AI技术在医疗领域的快速发展，越来越多的医疗机构开始探索其潜在的应用价值。然而，许多临床医生、运营人员和医疗机构领导可能并不清楚自己正在使用的AI系统，也不知道应该提出哪些问题，以及如何制定政策、程序和专业培训来确保这些系统能够改善健康结果、减少团队负担并提高整体可持续性。因此，这份工具包提供了一个介绍性的指南，以支持这些努力。

 

图片

工具包首先探讨了AI的定义和分类。AI的定义因国家、机构、健康保险公司、厂商和其他医疗保健利益相关方的不同而有所差异。例如，有的定义强调AI是基于机器的系统，能够为实现一组人类定义的目标做出预测、建议或决策，从而影响真实或虚拟环境。然而，并不是所有的AI系统和方法都具有相同的风险水平，因此了解不同类型的AI及其潜在风险至关重要。

 

在医疗领域，AI系统的应用带来了显著的运营和临床效益。这些系统可以支持临床决策、优化营收周期、预测健康轨迹、指导手术治疗、监测患者状况以及推荐治疗方案等。然而，随着AI系统的广泛应用，也带来了一系列的风险和挑战。其中，最常被讨论的风险是AI系统训练数据中的歧视性偏见。这种偏见可能由训练数据或数据基准中的缺失、错误或反映当前结构不平等的数据所引入，并可能在产品的整个生命周期中被放大。

 

图片

为了应对这些风险，工具包提出了一系列关键步骤来评估和减轻AI系统在医疗保健中的歧视性影响。这些步骤包括：在部署AI系统之前识别潜在的偏见和歧视性影响；了解社区的人口统计特征和医疗保健不平等现象；确保用于训练AI系统的数据是高质量、相关且具有代表性的；并在部署AI系统时实施保障措施，从而最小化歧视性影响并持续监测其性能和表现。

 

此外，工具包还强调了治理在AI应用中的重要性。对于在社区诊所或医院中部署AI系统的医疗机构来说，建立有效的数据管理和AI系统管理规程至关重要。这包括制定数据采集、处理和存储的指南，以及确保AI系统的技术方面得到妥善管理的AI系统管理员角色。同时，还需要建立事件响应程序来应对AI系统故障或违规行为，并进行监管合规性检查以确保AI系统满足所有相关法规要求。

 

图片

工具包还包括了一份AI工具供应商评估清单。在选择AI工具供应商时，医疗机构还需要考虑一系列问题。这包括工具的预期用途和功能、供应商提供的培训和人员支持、工具与现有工作流程和电子病历系统的集成方式、未来更新或追加组件的成本以及供应商对错误或负面结果的责任和赔偿政策等。通过仔细评估这些问题，医疗机构可以确保选择到最适合自己需求的AI工具。

 

图片

总的来说，《医疗人工智能工具包》为医疗机构和从业者提供了一个全面的指南，帮助他们更好地理解和应用AI技术。通过遵循工具包中提出的步骤和建议，医疗机构可以确保AI系统在医疗保健中发挥积极作用，同时最大限度地降低潜在风险。随着AI技术的不断发展，这份工具包将成为医疗机构在探索和应用AI技术过程中不可或缺的参考资源。