arrow
返回

Optimizing memory-efficient multimodal networks for image classification using differential evolution

delete2025-03-01
delete1
delete
OA
AI
T
Thomas Hielscher *
S
S.A. Hadigheh
DOI:10.1016/j.asoc.2025.112714delete
delete原文链接
delete分享
delete收藏
查看原文
摘要

摘要

En 中文
本文提出了一种新颖的方法,用于开发多模态分类的调谐模型架构和超参数集合,利用差分进化算法优化内存高效设计(MEMODE)。所演化的模型结合了图像通道数据与通过训练的Word2Vec嵌入生成的向量化词矩阵,作为文本和图像输入的资源型卷积处理。此外,为丰富来自文本输入的语义表示,包含一个预训练的ALBERT模块以处理并行输入流。所采用的定制差分进化算法利用了惩罚目标函数,直接考虑模型大小和Mean F1性能。我们专注于超参数优化和神经网络架构搜索这一关键任务,同时考虑100 MB的设计限制。显著的是,通过MEMODE算法演化的网络达到了0.8621的验证Mean F1分数,超越了包括手动构建的CNN、AlexNet、ResNet变体、Inception模块以及由贝叶斯优化、粒子群优化和遗传算法等替代算法生成的1600多个竞争架构。这些结果强调了差分进化在训练内存高效模型时的自主网络设计和超参数调优能力。
Keyword:
Differential evolution
Hyperparameter optimization
Neural architecture search
Memory-efficient architectures
Multimodal models
Multi-label classification
Convolutional neural networks
AI总结

AI总结

对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。

期刊

Applied Soft Computing 封面图
Applied Soft Computing
IF:
6.6
论文数:
1.4W
被引数:
4.8W

机构

U
Univ Sydney
学者数:
2.7K
论文数: 1.8K
被引数: 583
引用论文

引用论文

Constraint-handling techniques within differential evolution for solving process engineering problems
err2021-09-01
err23
PREAI
errCantu, Victor H.; Azzaro-Pantel, Catherine; Ponsich, Antonin
err分享
err收藏
err分享
err收藏
A Comprehensive Survey of Image Augmentation Techniques for Deep Learning
err2023-05-01
err176
errOAAI
errXu, Mingle; Yoon, Sook; Fuentes, Alvaro; Park, Dong Sun
err分享
err收藏
err分享
err收藏
学者 查看更多内容