返回
Approximate Importance-Based Sampling for Neural Network Training
DOI:10.1007/978-3-032-03705-3_7.png)
摘要
En 中文
本文介绍了一种BBATDD算法(基于提升算法并使用漂移检测器训练的算法)的简化版本,称为A-BBATDD,旨在加速神经网络训练。新版本不单独更新每个训练样本的重要性,而是基于整个小批量进行近似。这使得该方法更容易与TensorFlow或PyTorch等标准机器学习工具配合使用。该算法仍专注于对网络最困难的样本进行采样,并包含一个漂移检测机制(CUSUM)以在网络性能显著变化时重置重要性值。在MNIST数据集上的实验表明,该方法的表现特别敏感于小批量大小。
Keyword:
Neural network training
sampling methods
drift detection
期刊
A
IF:
0
论文数:
24
被引数:
0
机构
引用论文
Fast Computational Approach to the Levenberg-Marquardt Algorithm for Training Feedforward Neural Networks用于训练前馈神经网络的levenberg-marquardt算法的快速计算方法
Not All Samples Are Born Equal: Towards Effective Clean-Label Backdoor Attacks
PATTERN RECOGNITION
IF7.6
没有更多内容

