返回
Optimizing memory-efficient multimodal networks for image classification using differential evolution
DOI:10.1016/j.asoc.2025.112714.png)
摘要
En 中文
本文提出了一种新颖的方法,用于开发多模态分类的调谐模型架构和超参数集合,利用差分进化算法优化内存高效设计(MEMODE)。所演化的模型结合了图像通道数据与通过训练的Word2Vec嵌入生成的向量化词矩阵,作为文本和图像输入的资源型卷积处理。此外,为丰富来自文本输入的语义表示,包含一个预训练的ALBERT模块以处理并行输入流。所采用的定制差分进化算法利用了惩罚目标函数,直接考虑模型大小和Mean F1性能。我们专注于超参数优化和神经网络架构搜索这一关键任务,同时考虑100 MB的设计限制。显著的是,通过MEMODE算法演化的网络达到了0.8621的验证Mean F1分数,超越了包括手动构建的CNN、AlexNet、ResNet变体、Inception模块以及由贝叶斯优化、粒子群优化和遗传算法等替代算法生成的1600多个竞争架构。这些结果强调了差分进化在训练内存高效模型时的自主网络设计和超参数调优能力。
Keyword:
Differential evolution
Hyperparameter optimization
Neural architecture search
Memory-efficient architectures
Multimodal models
Multi-label classification
Convolutional neural networks
AI总结
对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
IF:
6.6
论文数:
1.4W
被引数:
4.8W
机构
引用论文
Automatically Designing CNN Architectures Using the Genetic Algorithm for Image Classification使用遗传算法自动设计CNN架构进行图像分类
Sle-CNN: a novel convolutional neural network for sleep stage classificationSle-CNN:一种用于睡眠阶段分类的新型卷积神经网络

