《迈向多变量可穿戴生理信号感知基础模型》

本文提出了名为“诺姆穿戴”的基础模型，这是一个用于多变量可穿戴生理信号的规范化基础模型。该模型旨在解决现有时间序列基础模型在处理可穿戴传感器数据方面的两个主要局限性：首先，现有模型通常依赖于预定义的输入信号类型，难以适应不同传感器配置和数量的场景；其次，大多数模型只能处理单变量时间序列，无法捕捉来自不同身体部位传感器的信号之间的复杂关系。

随着移动和可穿戴传感器技术的发展，诸如光电容积描记法、心电图、皮肤电反应和脑电图等生理信号的持续监测已成为医疗保健领域的重要工具。这些时间序列数据在早期诊断、个性化健康洞察和远程患者监测中展现出巨大潜力。然而，可穿戴信号相比传统时间序列数据具有更大的模式变异性和频率带宽差异，且通常需针对特定健康结果进行推断。现有的时间序列基础模型多集中于单变量数据处理或预定义传感器类型，难以适应多变量信号的异构性和复杂关系。因此，开发一个能够处理任意传感器配置、支持跨应用高效适应的基础模型成为亟待解决的挑战。

“诺姆穿戴”的提出正是为了填补这一空白。它通过大规模预训练和创新的信号处理方法，旨在提取通用的可穿戴信号表示，支持包括心理健康、身体状况推断、生物标志物估计和疾病风险评估在内的多种下游任务。此外，该模型还引入了零样本推理能力和可解释性分析，进一步提升其实用性与信頼度。

“诺姆穿戴”的核心创新在于其对可穿戴生理信号的多模态、多变量特性进行了有效处理。它利用“连续小波变换” 进行多尺度表示，将不同模态的信号转换为类似RGB图像的格式，从而实现模态无关的标记化。这种方法避免了传统频谱方法中固定窗口大小带来的局限性，提高了模型的泛化能力。模型架构采用卷积分块层和12个标准Transformer块作为主干，并引入通道感知注意力层来捕获通道间的相互作用。轻量级解码器则用于重建原始生理信号。

本文特别强调了模型的预训练策略。“诺姆穿戴”在超过250万个多变量可穿戴传感片段（总计14943小时传感器信号）上进行了预训练，这些数据来自多个公开数据集，包括了多种生理信号。为了扩大数据集规模，本文采用启发式数据增强算法，将数据集扩展到250万个片段。预训练策略借鉴了掩码自动编码器的思想，通过对输入标记进行掩码并使用均方误差来重建原始时间序列。本文还实验了四种不同的掩码策略，最终选择时间和尺度掩码策略，因为它在后续任务中取得了最佳性能。

为了提高模型的解释性，本文对模型的内部工作机制进行了全面的可解释性分析和可视化。这是该领域的一大贡献，因为可解释性对于医疗应用至关重要。本文首次对模型在各个中间层提取的波形特征进行了非线性动力学分析，量化了模型的内部过程，为其推断提供了清晰的洞见，并增强了最终用户对其推断的信任度。

此外，“诺姆穿戴”还引入了创新的零样本推理方法。通过一种新颖的基于表示对齐和匹配的方法，该模型将生理信号嵌入与文本嵌入对齐。这种对齐使得模型能够进行零样本推理，即能够泛化到以前未见过的基于可穿戴信号的健康应用。具体来说，它利用了一种名为“受记忆流启发的时序融合机制”的方法。该方法发融合了来自所有时间步长的潜在表示，并根据相关性、重要性和时间接近度计算权重。这种方法考虑了人类感知任务中时间邻近性的重要性，并通过变分方法引入随机性，以捕捉人类感知数据中的细微变化。这部分工作巧妙地将生理信号与文本信息结合，极大地扩展了模型的应用范围。

文章在11个公开的可穿戴传感数据集（涵盖18个应用，包括心理健康、身体状态推断、生物标志物估计和疾病风险评估）上对“诺姆穿戴”进行了评估，并与其他基准模型进行了比较。结果表明，“诺姆穿戴”在线性探测和零样本推理方面都取得了优于竞争基线的性能提升。

总而言之，这篇文章提出了一个具有创新性和实用性的可穿戴生理信号基础模型“诺姆穿戴”。其多模态处理能力、强大的泛化能力、以及对模型可解释性的关注，都为可穿戴医疗保健领域的研究和应用带来了重要的贡献。该模型的公开代码和预训练模型也方便了其他研究人员进一步的研究和开发，为未来的智能健康监测提供了有力的工具。文章中提出的数据增强方法、多尺度表示方法、通道感知注意力机制以及受记忆流启发的时序融合机制等技术，都具有重要的参考价值，并可能在其他时间序列分析任务中得到推广应用。“诺姆穿戴”的成功，标志着可穿戴生理信号分析领域迈向更通用、更可靠和更可解释的模型方向的重要一步。

如需要《迈向多变量可穿戴生理信号感知基础模型》（英文，共29页），请在本微信公众号中赞赏（点喜欢或稀罕作者后按本公众号设定打赏）后，发来email地址索取。