基于时间滞后注意力的对比域自适应方法在可穿戴传感器时间序列数据中的应用
《Expert Systems with Applications》:Contrastive Domain Adaptation with Time-Lag Attention for Wearable Sensor Time-Series
【字体:
大
中
小
】
时间:2026年01月05日
来源:Expert Systems with Applications 7.5
编辑推荐:
针对可穿戴传感器人体活动识别(HAR)模型因用户、设备和上下文差异导致的分布偏移问题,本文提出时间-LAG注意力对比领域适应框架(LAGOON)。通过时空注意力混合器建模因果时间滞后,结合指数移动平均更新的教师-学生机制实现类条件对齐,有效缓解跨域HAR中的结构偏移,在UCI-HAR、HHAR、WISDM和SSC四个基准数据集上验证其优于现有基线的F1分数,尤其在WISDM数据集上提升显著。
张国志|张洪鹏|贾梦颖|刘子轩
西北师范大学计算机科学与工程学院,中国甘肃省兰州市安宁东路967号,730070
摘要
用户、设备和环境之间的分布差异削弱了可穿戴传感器人体活动识别(HAR)模型的泛化能力。虽然无监督领域适应(UDA)有所帮助,但有两个因素使其变得困难:与活动相关的时序依赖性和特定于通道的时间延迟,以及有限的类意识指导,这会放大早期的伪标签噪声。我们提出了时间延迟注意力对比领域适应(LAGOON)框架,该框架将时序动态建模与抗噪声的类对齐相结合。LAGOON包含两个协同模块。时间延迟注意力混合器(TraMixer)应用基于通道的、因果受限的可学习延迟权重来聚合历史数据段,生成源主导和目标主导的视图,以保留特征性时间节奏,从而支持对比学习。同时,一个带有指数移动平均(EMA)更新的教师模型产生高置信度的伪标签,通过逐步增加的方案驱动类条件对齐损失,注入明确的类级指导,同时减少早期噪声。LAGOON通过深度嵌入验证(DEV)风险支持公平的无标签模型选择,并保持流程的轻量级和稳定性。在四个跨领域HAR基准测试上的实验表明,LAGOON在数据集级别的MF1指标上始终能够匹配或超越强大的UDA基线。我们的代码可在以下链接获取:
https://github.com/Lanz1209/LAGOON引言
可穿戴设备与人工智能的结合推动了人体活动识别(HAR)的时序建模。HAR通过序列传感器信号(例如加速度计、陀螺仪)识别活动,并支持健康监测、临床监控、体育分析和安全应用(Alawneh等人,2021年)。尽管许多深度学习HAR模型在公共数据集上取得了良好的结果,但它们通常假设训练数据和测试数据遵循相同的分布(Luo等人,2023年)。实际上,领域因素的变异性,包括个体生理、用户习惯和传感器异质性,会导致分布差异,从而削弱泛化能力,阻碍其在实际应用中的部署。
无监督领域适应(UDA)利用标记的源数据和未标记的目标数据来提高目标领域的性能,并在视觉任务中显示出有效性(Zhao等人,2020年)。对于时序数据,UDA仍处于起步阶段,通常无法建模时序依赖性。当前实践主要有两种方法:基于差异的方法(例如MMD、KL)(Liu & Qin,2020年),这些方法在处理复杂或较大的差距时遇到困难(Liu & Xue,2021年);以及带有领域判别器的对抗学习(Eldele、Ragab、Chen、Wu、Kwoh、Li、Guan、Jin、Park、Maddix、Wang、Wang、Wilson、Doppa、Cook,2022年,Duchi、Lafferty、Zhu等人,2016年),但其训练可能不稳定(Duchi、Lafferty、Zhu等人,2016年)。此外,许多方法强调全局特征的对齐,而忽略了时间结构,限制了对动态行为模式的捕捉。
对比学习提供了一种补充途径。CoTMix(Eldele等人,2024年)通过混合不同领域的信号形成增强视图,在时序基准测试中表现良好。然而,这种混合通常是静态的(例如固定滚动平均值),无法考虑基于通道的数据集特定延迟/相位偏差;信息丰富的瞬态可能会被过度平滑,传感器相位可能会错位,如图1(a)所示。此外,目标学习通常仅依赖于无监督目标,因此缺乏细粒度的类级指导,使其在早期容易受到噪声伪标签的影响;纯粹的全局对齐可能导致目标领域中的类别混淆,如图2(a)所示。
最近的工作进一步推进了基于传感器和时序识别的领域适应。Liu等人提出了一个权重感知的多源UDA框架,用于跨受试者人体运动意图识别,根据每个源受试者与目标受试者的差异自适应地加权(Liu、Li、Zhou、Liang、Hou,2025年)。Pei等人开发了一种基于分类器集成的无源领域适应方法,用于时序分类,无需存储原始源数据即可将源训练模型适配到目标序列领域(Pei等人,2025年)。Li等人探索了来自异构源教师模型的模糊领域适应,并将其预测提炼成统一的目标模型(Li、Lu、Zuo、Zhang,2025年)。Yang等人引入了一个多功能类感知的教师-学生框架,具有自适应的伪标签选择功能,用于跨领域适应(Yang、Tian、Tian,2025年),Chen等人将Transformer编码器与对抗领域对齐结合用于谣言检测(Chen等人,2025年)。相比之下,我们专注于多变量可穿戴信号的封闭集跨受试者HAR,并在决策空间中显式建模因果时间延迟结构,同时进行类条件对齐。
在这项工作中,我们提出了时间延迟注意力对比领域适应(LAGOON)框架,该框架将因果时序建模与类感知对齐相结合,用于时序HAR。时间延迟注意力混合器(TraMixer)应用基于通道的、因果掩码的时间延迟权重来自适应地聚合历史数据段,生成源主导和目标主导的视图,保留活动节奏并强调用于对比学习的信息性时刻,如图1(b)所示。同时,教师-学生模块使用指数移动平均(EMA)更新的教师模型生成高置信度的伪标签,逐步增加的类条件对齐损失提供校准的类级监督,从而紧密聚类相同类别并抑制早期噪声,如图2(b)所示。在多个公共基准测试中,LAGOON在多样的跨领域设置下始终优于竞争基线,提高了MF1分数。我们的主要贡献如下:
1.我们提出了LAGOON,一种用于时序HAR的对比UDA框架,它将因果时序建模与类感知对齐相结合,以减轻跨领域结构差异,而无需目标标签。
2.我们设计了TraMixer,一个因果的、基于通道的时间延迟注意力模块,它学习聚合历史数据段并合成源主导和目标主导的视图,以保留活动节奏,从而支持对比学习。
3.我们开发了一种教师-学生协作对齐方案,使用EMA更新的教师模型和逐步增加的类条件损失,提供校准的类级监督,抑制早期伪标签噪声,并提高目标的可分离性。
4.我们在UCI-HAR、HHAR、WISDM和SSC跨领域设置中验证了LAGOON,其在MF1分数上始终优于强大的基线,证明了其有效性和鲁棒性。
相关工作
相关工作
本节回顾了两条研究路线:(i)时序数据的UDA和(ii)用于领域适应的对比学习,重点介绍时序UDA的最新进展。
方法
本节介绍了LAGOON框架,该框架将自适应时间延迟注意力混合器(TraMixer)与教师-学生类条件对齐方案相结合。我们首先通过因果的、基于通道的延迟聚合构建源主导和目标主导的中间视图,并将所有视图输入到带有监督/无监督对比和熵目标的共享编码器中;然后使用EMA教师生成高置信度的伪标签,并应用
实验
本节通过一系列实验系统评估了所提出的LAGOON框架的有效性。我们首先描述了实验设置,包括基准数据集、基线和实现细节。然后,我们报告并分析了LAGOON与几种先进方法之间的比较。最后,我们进行了消融研究、特征可视化和参数敏感性分析,以分解LAGOON的核心组成部分并验证其必要性和合理性
与基线的比较
我们在UCI-HAR、HHAR、WISDM和SSC上进行跨领域迁移实验,并与多种UDA方法进行了比较。我们使用MF1分数作为主要指标,因为它能更好地反映类别不平衡情况下的性能。MF1分数的计算公式如下:
其中N是类别的数量,第i类的F1分数为:
平均值和标准差来自三次独立运行。本节分析了表中报告的结果
结论
本研究解决了时序无监督领域适应中的两个持久性障碍:对时序结构顺序意识的建模不足以及缺乏可靠的目标监督。我们引入了LAGOON,这是一个对比适应框架,它将一个可学习的时间延迟注意力混合器(在因果约束下形成时间感知和领域偏置的中间视图)与一个使用指数移动平均的教师-学生协作对齐方案相结合
作者贡献声明
张国志:概念化、方法论、监督、写作——审稿与编辑、资金获取。张洪鹏:方法论、软件、写作——初稿、审稿与编辑。贾梦颖:方法论、写作——审稿与编辑。刘子轩:写作——审稿与编辑、软件。
利益冲突声明
作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文所述的工作。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号