arrow
返回

Zero-Shot Binarization Lightweight Model for a Data-Free Edge Network

delete2025-12-19
delete0
PRE
AI
K
Kai Zeng
H
H. Gu
Y
Yuxiu Duan
沈韬 封面图
沈韬 (Tao Shen)
R
Ruidong Li
DOI:10.1109/TCCN.2025.3569598delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
近年来,边缘网络被开发用于在和谐架构中集成计算与存储,以高效执行智能任务。然而,在边缘网络中实现智能计算存在两大挑战:(1) 智能模型应极度轻量化,因为边缘端计算能力有限;(2) 数据驱动模型训练需要保障边缘端的安全与隐私。为应对这两大挑战,本文提出了一种零样本二值神经网络(ZS-BNN),这是一种无需数据驱动训练的终极紧凑模型。通过ZS-BNN,一个精简的二值神经网络(BNN)客户端通过引入生成器和全精度教师模型至服务器,执行数据无关的对抗性蒸馏(DFAD)训练。此外,考虑到分布偏差,提出了两种优化机制:在生成器中研究批量归一化(BN)约束项用于分布校正,并详细阐述了对学生BNN的分布对齐方法。基于这些设计,ZS-BNN通过改进操作实现了正常的数据分布。因此,二值卷积模型首次在数据无关环境中实现,可被视为边缘网络智能的最可行解决方案。实验结果表明,在零样本场景下,ZS-BNN优于当前最先进的二值化方法。资源代码已在https://github.com/sjmp525/IA/tree/ZS-BNN中得到验证。
Keyword:
Zero-shot
BNNs
data-free adversarial distillation
edge network

期刊

I
IEEE Transactions on Cognitive Communications and Networking
IF:
7
论文数:
1.6K
被引数:
5.5K

机构

K
Kunming University of Science and Technology
学者数:
9.1K
论文数: 2.5K
被引数: 2.1W
K
Kanazawa University
学者数:
1.2W
论文数: 8.8K
被引数: 7.6K
引用论文

引用论文

err分享
err收藏
err分享
err收藏
Zero-Shot Adaptation for mmWave Beam-Tracking on Overhead Messenger Wires Through Robust Adversarial Reinforcement Learning
err2022-03-01
err5
errOAAI
errShinzaki, Masao; Koda, Yusuke; Yamamoto, Koji; Nishio, Takayuki; Morikura, Masahiro; Shirato, Yushi; Uchida, Daisei; Kita, Naoki
err分享
err收藏
Scalable Binary Neural Network Applications in Oblivious Inference
err2024-05-11
err0
errOAAI
errXinqiao Zhang; Mohammad Samragh; Siam Hussain; Ke Huang; Farinaz Koushanfar
err分享
err收藏
学者 查看更多内容