返回
Adaptive Redox Resistive Memory Programming for Efficient and Robust Class-Incremental Learning
DOI:10.1002/adma.202600025.png)
摘要
En 中文
基于电阻式存储器(RM)的计算存储一体化(CiM)加速器为低功耗边缘智能提供了有前景的平台。然而,实际边缘人工智能不仅需要高效推理,还需要通过类别增量学习(CiL)进行反复模型更新。在RM衬底上实现CiL暴露了一个关键的材料-算法不匹配问题:CiL所需的写入密集型更新受到丝状RM器件随机编程的强烈影响。传统的完全编程(FP)通过反复编程和验证每个单元以精确的目标电导来缓解这种随机性,但这一详尽的过程在连续的CiL阶段中会带来巨大的能耗、延迟和设备磨损。在此,我们提出了一种硬件感知的自适应编程(AP)策略,使CiL部署与RM器件物理特性相一致。微观结构和电学分析表明,氧空位的随机空间分布导致了不可避免的编程变异性。基于这一认识,AP并不试图通过昂贵的补偿来消除内在的随机性。相反,它仅更新最具影响力的权重以抑制整体映射误差引起的精度损失,而保持低影响力权重不变。这将大规模的写入-验证操作转化为对最小单元集的目标更新,在无需设备或材料优化的情况下降低了编程开销。在一个包含40纳米、256 k RM基CiM核心的混合模拟-数字系统中得到验证,AP在五阶段CIFAR100 CiL中相对于FP将编程能耗降低了93.0%,编程周期减少了超过90%,同时最终精度达到0.80,接近0.81的软件基准。对于更复杂的ShapeNet 3D点云识别任务(跨八个阶段),AP实现了92.3%的能耗节省,仅损失0.03的精度。此外,AP通过将编程误差引起的精度退化分别降低了87.7%和88.4%,提高了鲁棒性。这项工作连接了算法更新需求与物理编程约束,使RM基CiM平台能够实现鲁棒且节能的终身学习。
Keyword:
class-incremental learning
computing-in-memory
deployment strategy
resistive memory
期刊
IF:
26.8
论文数:
3.4W
被引数:
46.0W
机构
引用论文
Resistive switching memories based on metal oxides: mechanisms, reliability and scaling基于金属氧化物的阻变存储器: 机理,可靠性和缩放
Redox-Based Resistive Switching Memories - Nanoionic Mechanisms, Prospects, and Challenges基于氧化还原的电阻开关存储器-纳米离子机制,前景和挑战
ADVANCED MATERIALS
IF26.8
CMOS-integrated memristive non-volatile computing-in-memory for AI edge processors用于AI边缘处理器的CMOS集成忆阻非易失性内存计算
NATURE ELECTRONICS
IF40.9
In situ observation of filamentary conducting channels in an asymmetric Ta2O5-x/TaO2-x bilayer structure原位观察非对称Ta2O5-x/TaO2-x双层结构中的丝状导电通道
NATURE COMMUNICATIONS
IF15.7
Suppression of Filament Overgrowth in Conductive Bridge Random Access Memory by Ta2O5/TaOx Bi-Layer StructureTa2O5/TaOx双层结构抑制导电桥式随机存取存储器中的细丝过度生长
Kinetic Monte Carlo simulation analysis of the conductance drift in Multilevel HfO2-based RRAM devices
NANOSCALE
IF5.1
NeuroSim: A Circuit-Level Macro Model for Benchmarking Neuro-Inspired Architectures in Online LearningNeuroSim: 在线学习中神经启发架构基准测试的电路级宏模型
Yang, J.J., Strukov, D.B., and Stewart, D.R. (2013). Memristive devices for computing. Nature Nanotechnology 8, 13-24. doi: 10.1038/nnano.2012.240.杨, J.J., Strukov, D.B., and Stewart, D.R. (2013). 计算的忆阻器器件. Nature Nanotechnology 8, 13-24. doi: 10.1038/nnano.2012.240.

