.png){kind=icon}
返回
Efficient Dataset Distillation via Generative Pruning
.png){kind=icon}
PRE
AI
DOI：10.1109/tbdata.2026.3668524.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
数据集精炼（DD）已显示出合成较小数据集以实现竞争性性能的潜力。尽管大多数DD方法在像素空间中操作，但它们在高分辨率数据集上往往表现出较差的可扩展性。近期的工作因此转向使用深度生成先验来参数化合成数据。然而，这些方法对所有生成器层应用潜在更新，导致巨大的计算开销。为解决此限制，我们提出生成式轻量化精炼（GLiD），这是一个统一框架，可联合压缩生成器并加速潜在优化以实现高效精炼。GLiD引入两个关键组件：（1）我们引入分类-多样性敏感剪枝机制，量化每个输出通道的判别效用和语义多样性，以指导结构剪枝和选择性逐层优化。（2）我们还提出了一种层自适应调度策略，根据收敛行为动态分配潜在更新步骤到生成器各阶段。在CIFAR-10和ImageNet-1K及其子集上的大量实验表明，我们的GLiD在不同数据集上可实现高达10倍的加速，同时保持与最先进方法竞争的性能。
Keyword:
Dataset distillation
pruning
generative model
期刊
I
IF:
5.7
论文数:
887
被引数:
3.0K
机构
引用论文
.png){kind=icon}
分享收藏
查看更多内容