.png){kind=icon}
返回
Variable multi-scale attention fusion network and adaptive correcting gradient optimization for multi-task learning
.png){kind=icon}
PRE
AI
DOI：10.1016/j.patcog.2025.111423.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
网络架构和优化是多任务学习中的两个不可或缺的部分，它们共同提升了多任务学习的性能。以往的工作很少同时关注这两个方面。在本文中，我们从网络架构和优化两个方面分析了多任务学习。在网络架构方面，我们提出了一种可变多尺度注意力融合网络，该网络克服了在处理小尺度特征图进行上采样时的特征损失问题，并解决了由于显著的空间尺寸差异导致的传统多尺度模型学习不足的问题。在优化方面，提出了一种自适应校正梯度方案，用以处理训练过程中多任务之间的冲突和主导缺陷，并有效缓解了多任务训练的不平衡。各种消融实验和对比实验表明，同时考虑网络框架和优化能够显著提升多任务学习的性能。我们的代码可从https://github.com/SyqxhSt/Net-Opt-MTL获取。
Keyword:
Multi-task learning
Network architecture
Optimization
期刊
IF:
7.6
论文数:
1.3W
被引数:
4.5W
机构
引用论文
COVID-MTL: Multitask learning with Shift3D and random-weighted loss for COVID-19 diagnosis and severity assessmentCovid-mtl: 具有Shift3D和随机加权损失的多任务学习，用于新型冠状病毒肺炎诊断和严重程度评估.png)
PATTERN RECOGNITION
OAAI
PATTERN RECOGNITIONIF7.6
OAAI分享收藏Bilateral Upsampling Network for Single Image Super-Resolution With Arbitrary Scaling Factors具有任意缩放因子的单图像超分辨率双边上采样网络
PREAI
分享收藏CFSSynergy: Combining Feature-Based and Similarity-Based Methods for Drug Synergy PredictionCFSSynergy: 结合基于特征和基于相似性的药物协同预测方法
PREAI
分享收藏A Multiple Gradient Descent Design for Multi-Task Learning on Edge Computing: Multi-Objective Machine Learning Approach边缘计算多任务学习的多梯度下降设计: 多目标机器学习方法
PREAI
分享收藏Dynamically Weighted Balanced Loss: Class Imbalanced Learning and Confidence Calibration of Deep Neural Networks动态加权平衡损失: 深度神经网络的类不平衡学习和置信度校准
PREAI
分享收藏A Model-Agnostic Approach to Mitigate Gradient Interference for Multi-Task Learning一种用于减轻多任务学习的梯度干扰的模型不可知方法
PREAI
分享收藏Task weighting based on particle filter in deep multi-task learning with a view to uncertainty and performance面向不确定性和性能的深度多任务学习中基于粒子滤波的任务加权PATTERN RECOGNITION
PATTERN RECOGNITIONIF7.6
PREAI
分享收藏Robust visual tracking by embedding combination and weighted-gradient optimization基于嵌入组合和加权梯度优化的鲁棒视觉跟踪PATTERN RECOGNITION
PATTERN RECOGNITIONIF7.6
PREAI
分享收藏Multi-task learning based on geometric invariance discriminative features基于几何不变性判别特征的多任务学习APPLIED INTELLIGENCE
APPLIED INTELLIGENCEIF3.5
PREAI
分享收藏
查看更多内容