arrow
返回

A Bayesian framework for robust local intrinsic dimensionality estimation

delete2026-01-02
delete0
delete
OA
AI
Z
Zaher Joukhadar *
H
Hanxun Huang
S
Sarah Erfani
M
Michael E. Houle
J
James Bailey
DOI:10.1016/j.is.2025.102668delete
delete原文链接
delete分享
delete收藏
查看原文
摘要

摘要

En 中文
• 我们提出了一种用于局部固有维数(LID)估计的贝叶斯框架,该框架通过有效降低估计方差而不引入显著偏差,实现了稳健的性能。这在邻域规模非常小(k≤10)的场景中尤为明显。保持极小的邻域规模对于实现LID估计过程中的局部性至关重要。 • 该框架能够纳入信息性和非信息性先验,允许灵活且原则性地整合关于LID的先验知识以增强估计过程。 • 基于该框架,我们推导出新颖的LID点估计器,并对传统方法(如最大似然估计(MLE))提供了有价值的见解。我们贝叶斯估计器的关键优势在于其能够在低k范围内超越传统方法,因为在该范围内高方差常阻碍可靠的LID估计。此外,随着k的增加,这些估计器自然收敛于传统方法(如MLE)的行为,确保在不同邻域尺度下的一致性和可靠性。 • 我们推导出一个后验预测分布(PPD),其比基于似然的非贝叶斯方法更准确地建模最近邻距离,后者假设固有维数(ID)固定。PPD考虑了固有维数中的变异性和不确定性。 • 我们提出了基于线性池和日志池的新型聚合方法,用于合并多个LID后验。这些方法为在深度神经网络(DNN)的训练过程中改进LID估计提供了原则性途径,通过整合来自模型先验状态(如不同训练周期)的LID估计。
Keyword:
Local Intrinsic Dimensionality
LID
Bayesian estimation
Manifold learning
Gamma distribution
Nearest neighbor methods
AI总结

AI总结

对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。

期刊

I
Information Systems
IF:
3.4
论文数:
136
被引数:
0

机构

U
University of Melbourne
学者数:
3.2K
论文数: 1.5K
被引数: 9.3W
N
new jersey institute of technology
学者数:
282
论文数: 154
被引数: 0
U
university of southern denmark
学者数:
3.7K
论文数: 1.6K
被引数: 1
学者 查看更多机构
引用论文

引用论文

Local Intrinsic Dimensionality, Entropy and Statistical Divergences
err2022-08-30
err0
errOAAI
errJames Bailey; Michael E. Houle; Xingjun Ma
err分享
err收藏
The generalized ratios intrinsic dimension estimator
err2022-11-21
err9
errOAAI
errDenti, Francesco; Doimo, Diego; Laio, Alessandro; Mira, Antonietta
err分享
err收藏
err分享
err收藏
Novel high intrinsic dimensionality estimators
err2012-05-26
err61
PREAI
errRozza, A.; Lombardi, G.; Ceruti, C.; Casiraghi, E.; Campadelli, P.
err分享
err收藏
A test procedure for detecting super-heavy tails
err2009-02-01
err0
PREAI
errIsabel Fraga Alves; Laurens de Haan; Cláudia Neves
err分享
err收藏
On local intrinsic dimensionality of deformation in complex materials
err2021-05-13
err12
errOAAI
errZhou, Shuo; Tordesillas, Antoinette; Pouragha, Mehdi; Bailey, James; Bondell, Howard
err分享
err收藏
学者 查看更多内容