本文聚焦于人工智能（AI）在决策支持系统中的角色，特别是在医疗场景下的任务分配与人机协同决策问题。该研究以脑卒中康复评估为背景，探讨了如何通过“不确定性感知”机制，提升用户对AI输出的信任与合理依赖，并优化人类与AI之间的协作方式。研究人员开发了一个基于人工智能的决策支持系统，并进行了一项用户研究，比较了基于距离的不确定性评分与传统的基于概率的不确定性评分在影响用户对人工智能依赖性方面的效果。
研究背景和动机:
随着AI技术在医疗领域的广泛应用，尤其是在临床决策支持系统（CDSS）中的应用日益成熟，AI已成为辅助医生进行诊断和治疗建议的重要工具。然而，一个关键挑战在于：如何确保人类用户在使用AI时既不过度依赖，也不完全忽视其价值？
研究表明，过度依赖AI可能导致错误判断未被及时纠正，而过度不信任则可能浪费AI提供的有效信息。现有研究已经探索了提高AI可解释性和沟通AI输出不确定性的计算技术，例如提供AI解释或不确定性信息，但这些方法并非总是能改善用户的决策。本研究关注于在AI辅助决策阶段之前，利用不确定性信息来识别适合委托给AI的任务，以及如何有效地呈现不确定性信息以促进用户对AI输出的批判性评估。
研究方法:
研究人员开发了一个基于前馈神经网络的AI系统，用于评估脑卒中幸存者运动质量。该系统利用“将杯子拿到嘴边”的练习，评估运动范围(ROM)和代偿性动作。系统不仅提供AI预测的康复评估分数，还提供基于重要特征的解释和不确定性评分。不确定性评分方面，研究人员比较了两种方法：基于概率的数值型置信度评分和基于距离的可视化置信度评分。基于距离的方法利用AI模型处理层的向量空间，通过计算给定案例与嵌入空间中每个类别中心之间的距离来量化不确定性。
研究采用2x2混合设计实验，参与者分为两组：一组在委托任务给AI之前，可以探索不同的置信度阈值并查看AI在委托案例上的表现；另一组则直接进行任务委托。 所有参与者都体验了两种条件：使用数值型置信度评分和使用基于距离的可视化置信度评分及交互式示例解释。参与者包括9位在脑卒中康复方面有经验的专家（治疗师）和20位新手（其他医疗专业人员和医学生）。
研究结果:
研究结果表明：
●基于距离的不确定性评分优于基于概率的评分:在识别需要人工复核的不确定案例方面，基于距离的方法表现更好，在替换不确定AI预测结果为专家评估后，达到了更高的F1分数。
●交互式探索置信度阈值有效降低了对错误AI输出的过度依赖:与未探索置信度阈值的小组相比，探索过置信度阈值的小组对错误AI输出的过度依赖率降低。
●基于距离的可视化置信度评分显著提高了决策准确性:与仅使用数值型置信度评分相比，使用基于距离的可视化置信度评分和交互式示例解释的小组，正确决策率更高，将决策更改为正确决策的比率更高，错误更改决策的比率更低 (p < 0.01)。这种改进在专家和新手群体中都得到了体现，新手群体甚至表现出更大的改进。
●任务委托提高了决策效率:在没有探索置信度阈值的情况下，使用AI辅助决策的小组比仅人工决策的小组完成任务速度更快。
讨论:
研究结果表明，交互式探索置信度阈值和使用基于距离的可视化置信度评分以及交互式示例解释，可以帮助用户更好地理解AI的不确定性，并促进对AI输出的批判性评估，从而提高人机协同决策的有效性。基于距离的可视化方法通过展示数据点和类别中心的嵌入空间，提供了更直观的理解，帮助用户更好地判断AI输出的可信度。然而，研究也指出，需要进一步研究如何更好地向缺乏AI专业知识的用户传达不确定性信息，以及如何在鼓励批判性审查AI输出的同时，最大限度地减少用户的认知和交互负担。
局限性:
研究的局限性包括：样本量相对较小，参与者群体未完全代表所有医疗专业人员，研究仅限于使用视频数据的前馈神经网络模型，以及未探索其他类型的AI解释或不确定性可视化方法。
结论:
这项研究为构建更透明、更可控、更高效的人机协同决策系统提供了理论基础和实践指导，标志着AI在医疗辅助决策领域迈出了重要一步。研究结果表明，基于距离的不确定性评分和交互式可视化方法可以显著提高决策准确性和对AI的恰当依赖，为构建更值得信赖的人工智能系统提供了有益的启示。未来研究需要进一步探索更广泛的应用场景、AI模型和用户群体，以提升研究结果的普适性。同时，也需要关注如何设计更有效的教育和解释机制，以帮助用户更好地理解和利用AI的不确定性信息。
如需要《不确定性感知任务委托与人类-人工智能协同决策》（英文，共16页），请在本微信公众号中赞赏（点喜欢或稀罕作者后按本公众号设定打赏）后，发来email地址索取。
Maturity is working through your trauma and not using it as a never ending excuse for poor behavior. 成熟，乃是直面过往伤痛，而非执其为拙行开脱的无尽托辞。早上好！
