.png){kind=icon}
返回
Triple contrastive learning representation boosting for supervised multiclass tasks
.png){kind=icon}
PRE
AI
DOI：10.1016/j.ipm.2024.104011.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
监督对比学习在提取样本表示方面非常有效，从而增强了下游任务的性能。然而，现有方法在多类数据集中未能充分利用监督信号，导致类间距离减小，进而削弱了模型的泛化能力。为解决这一问题，我们引入了一种三重监督对比学习方法，该方法将传统损失函数的（锚-正样本、锚-负样本）约束扩展为包含新的（跨负样本）约束。这种改进增加了来自同一锚样本的负样本之间的分离度，提升了模型性能和泛化能力。我们将此方法应用于三种最常用的监督对比学习方法，并在六个文本分类和两个图像分类数据集上进行了实验。我们的评估包括测量分类准确率和宏观F1分数，分析类间和类内距离，以及可视化表示聚类。我们的三重约束引入后，与原始方法相比，平均分类准确率分别提升了0.43%、0.35%和0.25%，证明了本方法在多类数据集中有效利用监督信号的能力。此外，我们将三重约束整合到来自不同领域的四种最新监督对比学习方法中，以进一步展示本方法的广泛适用性和有效性。我们的基准代码、改进代码和数据集均开源如下：https://github.com/6akso/Triple-Contrastive-Learning.git
Keyword:
Supervised contrastive learning
Multi-class datasets
Text classification
Image classification
期刊
I
IF:
6.9
论文数:
5.2K
被引数:
1.4W
机构
暂无机构信息
引用论文
.png){kind=icon}
分享收藏
分享收藏
查看更多内容