返回
A Bayesian framework for robust local intrinsic dimensionality estimation
DOI:10.1016/j.is.2025.102668.png)
摘要
En 中文
• 我们提出了一种用于局部固有维数(LID)估计的贝叶斯框架,该框架通过有效降低估计方差而不引入显著偏差,实现了稳健的性能。这在邻域规模非常小(k≤10)的场景中尤为明显。保持极小的邻域规模对于实现LID估计过程中的局部性至关重要。
• 该框架能够纳入信息性和非信息性先验,允许灵活且原则性地整合关于LID的先验知识以增强估计过程。
• 基于该框架,我们推导出新颖的LID点估计器,并对传统方法(如最大似然估计(MLE))提供了有价值的见解。我们贝叶斯估计器的关键优势在于其能够在低k范围内超越传统方法,因为在该范围内高方差常阻碍可靠的LID估计。此外,随着k的增加,这些估计器自然收敛于传统方法(如MLE)的行为,确保在不同邻域尺度下的一致性和可靠性。
• 我们推导出一个后验预测分布(PPD),其比基于似然的非贝叶斯方法更准确地建模最近邻距离,后者假设固有维数(ID)固定。PPD考虑了固有维数中的变异性和不确定性。
• 我们提出了基于线性池和日志池的新型聚合方法,用于合并多个LID后验。这些方法为在深度神经网络(DNN)的训练过程中改进LID估计提供了原则性途径,通过整合来自模型先验状态(如不同训练周期)的LID估计。
Keyword:
Local Intrinsic Dimensionality
LID
Bayesian estimation
Manifold learning
Gamma distribution
Nearest neighbor methods
AI总结
对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
I
IF:
3.4
论文数:
136
被引数:
0

