图片

随着人工智能（AI）在医疗保健领域的快速发展，尽管研究取得了重大进展，但人工智能技术在临床实践中的部署和采用仍然有限。这一局限性部分归因于缺乏明确且广泛接受的指南，用以指导医疗人工智能工具的设计、开发、评估和部署，以确保其技术稳健性、临床安全性和可信赖性。为此，“未来-AI”联盟于2021年成立，旨在通过国际共识制定一套全面的指导方针，以促进医疗领域可信赖且可部署的人工智能的发展。

 

“未来-AI”联盟由来自50个国家的117名跨学科专家组成，涵盖了人工智能科学家、临床科研人员、生物医学伦理学家和社会科学家等多个领域。经过两年的努力，该联盟基于六项指导原则——公平性、普遍性、可追溯性、可用性、鲁棒性和可解释性，建立了“未来-AI”框架。这一框架旨在填补医疗人工智能领域的一个重要空白，即通过提供首个结构化且全面的指南，确保人工智能在医疗领域的可信赖性和合乎伦理性。

 

图片

“未来-AI”框架的六项指导原则为开发可信赖的人工智能系统提供了基础。公平性强调人工智能工具应识别、报告并尽可能最小化潜在的偏见，以确保不同亚组之间的性能相似。普遍性要求人工智能工具应具有高度的互操作性和可转移性，以便能够大规模惠及公民和临床医生。可追溯性关注于记录人工智能工具的开发和部署过程，以便在出现问题时能够追踪和修复。可用性则强调人工智能工具应易于使用，且符合临床医生和最终用户的需求。鲁棒性要求人工智能工具能够应对现实世界中的各种变化，并在这些变化中保持性能稳定。最后，可解释性强调人工智能工具的解释应具有临床意义，并对最终用户有益。

 

图片

基于这些指导原则，“未来-AI”框架提出了30项详细建议，涵盖了人工智能生命周期的各个方面，从设计和开发到评估和部署。这些建议强调了多利益相关方的协作、持续的风险评估和缓解措施的重要性。例如，在开发阶段，建议人工智能开发者与临床医生、最终用户和其他相关利益相关方开展早期合作，以编译有关人工智能工具的信息。在评估阶段，建议进行严格的测试和验证，以确保人工智能工具的性能和安全性。在部署阶段，则建议提供所有本地所需的文档和认证，并持续监控人工智能工具的性能。

 

“未来-AI”框架不仅为医疗人工智能的开发提供了实用的指导，而且还强调了这一领域的未来研究方向。例如，尽管“未来-AI”框架为医疗人工智能的监管提供了见解，但仍需要将这些建议纳入监管程序。此外，未来工作还应包括在特定医疗领域中对“未来-AI”框架的实操化进行更深入的研究，以制定针对特定应用场景的具体指南。

 

图片

总之，“未来-AI”框架是医疗人工智能领域的一个重要里程碑。它提供了一个结构化且全面的指导方针，以确保人工智能在医疗实践中的可信赖性和合乎伦理性。通过遵循这些指导原则和建议，人工智能开发者可以设计出更加公平、普惠、可追溯、易用、稳健和可解释的人工智能工具，从而推动医疗领域的创新和进步。同时，“未来-AI”框架也为未来的研究和实践提供了方向，以促进医疗人工智能的广泛应用和持续改进。随着技术的不断发展和监管框架的逐步完善，我们有理由相信，医疗人工智能将更加安全、有效和可靠，为人类的健康事业做出更大的贡献。