返回
Enhancing Contrastive Learning in Sequence Classification via Data Augmentation
DOI:10.1007/978-981-96-6291-3_20.png)
摘要
En 中文
我们依赖大量标注数据进行有效建模。这一说法对于序列数据依然成立。任何有助于缓解大规模标注数据获取困难的方法,如自监督学习,都可能成为模型学习中不可或缺的组成部分。在本工作中,我们提出了一种适用于具有时序依赖性的序列数据的增强技术,该技术能够提升对比学习(作为主要的自监督学习方法之一)的性能。在处理具有时序依赖性的序列数据时,会出现各种困难。一般来说,我们必须关注数据中的时序结构,以确保任何形式的增强都不会破坏时序依赖性,或使依赖性在数据中保持相似。所提出的增强技术属于强增强类别,其中会对数据的各个部分进行切割和打乱操作,但时序依赖性中的关键事件保持不变。采用动态时间规整技术通过对齐过程隔离关键事件,并利用自监督学习技术实现该机制。与其他同类数据增强方法相比,我们强调对数据表示的有效学习。进行了公平评估以验证所提出方法的有效性,并将其与其他最先进方法在各种下游学习任务中进行比较。最终,实验结果表明,所提出的方法能够有效利用标注数据和未标注数据的信息来构建内部表示,最终生成高性能的分类器。
Keyword:
contrastive learning
data augmentation
self-supervised learning
sequential data
期刊
机构
引用论文
TimeCLR: A self-supervised contrastive learning framework for univariate time series representationTimeCLR: 一种用于单变量时间序列表示的自监督对比学习框架

