arrow
返回

Efficient Rejection Sampling in the Entropy-Optimal Range

delete2026-05-01
delete0
PRE
AI
T
T. Draper
F
Feras A. Saad *
DOI:10.1109/tit.2026.3658044delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
我们研究了使用独立公平硬币翻转的熵源从有限离散概率分布P生成随机变量X的问题。Knuth和Yao的一个经典结果表明,每输出样本所需输入硬币翻转次数的最优期望值介于H(P)和H(P) + 2之间,其中H是香农熵函数。然而,实现Knuth和Yao的“熵最优”采样器需要在指数空间(低每样本运行时间)或线性空间(高每样本运行时间)之间进行权衡。我们介绍了一种新的采样算法,避免了这种权衡:它需要线性空间,每样本的运行时间开销可忽略不计,且使用的硬币翻转次数的期望值落在熵最优范围[H(P), H(P) + 2)内。此前尚无离散分布的采样器能同时实现这些空间、时间和熵特性。数值实验表明,与著名的别名方法相比,所提出的方法在运行时间和熵方面均有改进。
Keyword:
Entropy
Costs
Runtime
Trees (botanical)
Probability distribution
Software algorithms
Proposals
Approximation algorithms
Upper bound
Symbols
Random variate generation
variable-to-fixed-length codes
algorithm design and analysis
entropy

期刊

I
IEEE Transactions on Information Theory
IF:
2.9
论文数:
317
被引数:
0

机构

C
carnegie mellon university
学者数:
2.1K
论文数: 988
被引数: 0
引用论文

引用论文

暂无论文信息