.png){kind=icon}
返回
Generative Diffusion-Based Black-Box Optimization for Robust Information Bottleneck Representation Learning
.png){kind=icon}
PRE
AI
DOI：10.1109/tmc.2026.3726136.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
信息瓶颈（IB）为面向任务通信的表示学习提供了原则性框架，能够实现联合特征提取与传输，同时保留任务相关信息。然而，基于IB的优化仍具挑战性，原因在于数据的高维性、互信息估计的不可计算性，以及现有方法依赖拉格朗日乘数，需要复杂的超参数调优且无法保证约束满足。为解决这些局限，本文研究了经典IB问题及鲁棒信息瓶颈（RIB）问题，后者通过引入对不确定性和扰动的鲁棒性，更贴合实际通信需求。我们提出两种基于扩散的优化框架：第一，扩散式信息瓶颈优化模型（DIBOM）通过结合条件扩散模型与黑箱优化解决经典IB问题，采用梯度引导采样和自适应损失重加权，实现压缩与预测精度间的稳定平衡；第二，扩散式鲁棒信息瓶颈多目标贝叶斯优化（DRIB-MOBO）框架将RIB扩展为多目标黑箱优化任务，通过在贝叶斯优化循环中利用扩散模型的生成能力，迭代搜索、评估和精化候选解，最终构建帕累托最优表示，联合优化精度、可压缩性与鲁棒性。大量实验表明，所提框架有效克服了拉格朗日方法的局限，在复杂不确定环境下实现更优鲁棒性与高效多目标优化。
Keyword:
Information Bottleneck
Diffusion Model
Blackbox Optimization
Multi-objective Optimization
