.png){kind=icon}
返回
UNITI: Framework for multi-task learning across datasets to mitigate overfitting
.png){kind=icon}
PRE
AI
DOI：10.1016/j.eswa.2025.127653.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
多任务学习（MTL）已作为一种有前景的方法出现，通过利用共享表示来提高相关任务间的泛化能力。然而，现有的MTL技术主要关注数据集内部学习，其中任务共享一个具有多个标签的公共数据集。这种方法往往无法解决任务源自异构数据集的现实场景，导致灾难性遗忘和特征干扰。为克服这些局限性，我们提出了UNITI（Unifying Neural with Inter-dataset for Task Integration），一种新颖的跨数据集多任务学习框架，使单个模型能够有效地从多个不同数据集中学习。UNITI由两个关键组件组成：(1) 顺序数据集训练，通过系统性地跨数据集更新模型参数来减少干扰；(2) 特征级知识蒸馏（KD），其中学生模型从特定数据集的教师模型中学习任务相关的基本特征。我们使用基于CNN（ResNet50）和基于ViT（SHViT）的架构，在人脸识别任务（年龄估计、表情分类）和通用对象分类（Caltech-101）上验证了UNITI。实验结果表明，UNITI在准确率上比标准MTL方法最高提升5.17%，同时与单任务模型保持相当的性能，并显著降低了计算开销。值得注意的是，在表情识别中，UNITI将准确率从单任务模型的60.67%提升至65.84%，展示了其在跨数据集设置中保留任务特定特征的能力。我们的发现表明，UNITI是一种可扩展且高效的传统MTL方法的替代方案，适用于需要将多样化数据集整合到单个模型中的现实世界AI系统。
Keyword:
Multi-task learning (MTL)
Convolutional neural network (CNN)
Vision transformer (ViT)
Emotion recognition
Age recognition
Gender recognition
期刊
IF:
7.5
论文数:
2.9W
被引数:
10.2W
机构
暂无机构信息
引用论文
Hot rolled prognostic approach based on hybrid Bayesian progressive layered extraction multi-task基于混合贝叶斯渐进分层提取多任务的热轧预测方法
.png){kind=icon}
PREAI
分享收藏Effectiveness of multi-task deep learning framework for EEG-based emotion and context recognition
PREAI
分享收藏MultiTask-CenterNet (MCN): Efficient and Diverse Multitask Learning using an Anchor Free Approach
OAAI
OAAI分享收藏Joint segmentation and classification of skin lesions via a multi-task learning convolutional neural network基于多任务学习卷积神经网络的皮肤病变联合分割与分类
PREAI
分享收藏
分享收藏
查看更多内容