返回
Zero-Shot Binarization Lightweight Model for a Data-Free Edge Network
DOI:10.1109/TCCN.2025.3569598.png)
摘要
En 中文
近年来,边缘网络被开发用于在和谐架构中集成计算与存储,以高效执行智能任务。然而,在边缘网络中实现智能计算存在两大挑战:(1) 智能模型应极度轻量化,因为边缘端计算能力有限;(2) 数据驱动模型训练需要保障边缘端的安全与隐私。为应对这两大挑战,本文提出了一种零样本二值神经网络(ZS-BNN),这是一种无需数据驱动训练的终极紧凑模型。通过ZS-BNN,一个精简的二值神经网络(BNN)客户端通过引入生成器和全精度教师模型至服务器,执行数据无关的对抗性蒸馏(DFAD)训练。此外,考虑到分布偏差,提出了两种优化机制:在生成器中研究批量归一化(BN)约束项用于分布校正,并详细阐述了对学生BNN的分布对齐方法。基于这些设计,ZS-BNN通过改进操作实现了正常的数据分布。因此,二值卷积模型首次在数据无关环境中实现,可被视为边缘网络智能的最可行解决方案。实验结果表明,在零样本场景下,ZS-BNN优于当前最先进的二值化方法。资源代码已在https://github.com/sjmp525/IA/tree/ZS-BNN中得到验证。
Keyword:
Zero-shot
BNNs
data-free adversarial distillation
edge network
期刊
I
IF:
7
论文数:
1.6K
被引数:
5.5K
机构
引用论文
Multi-Layer Computation Offloading in Distributed Heterogeneous Mobile Edge Computing Networks分布式异构移动边缘计算网络中的多层计算卸载
Proactive Content Caching Based on Actor-Critic Reinforcement Learning for Mobile Edge Networks基于Actor-crristic强化学习的移动边缘网络主动内容缓存
Reinforcement-Learning-Based Network Slicing and Resource Allocation for Multi-Access Edge Computing Networks基于强化学习的多接入边缘计算网络切片和资源分配

