Attribute grouping-based naive Bayesian classifier

doi:10.1007/s11432-022-3728-2

Attribute grouping-based naive Bayesian classifier

2025-02-11

1

PRE

AI

Y

Yulin He

P

Philippe Fournier‐Viger

J

Joshua Zhexue Huang *

DOI：10.1007/s11432-022-3728-2

原文链接

原文求助

摘要

En 中文

朴素贝叶斯分类器（NBC）是一种具有简单模型结构和良好理论可解释性的监督机器学习算法。然而，NBC的泛化性能在很大程度上受到属性独立性假设的限制。为解决此问题，本文提出了一种基于属性分组的朴素贝叶斯分类器（AG-NBC），它是通过不同属性组训练的经典NBC的变体。AG-NBC首先应用一种新颖有效的目标函数来自动识别最优的依赖属性组（DAGs）。同一DAG中的条件属性与类属性强相关，而不同DAGs中的属性彼此独立。然后，针对每个DAG，训练一个带有SoftMax层的随机向量函数链接网络，以联合概率密度估计的形式输出后验概率。NBC使用与原始条件属性对应的分组属性进行训练。进行了大量实验来验证AG-NBC的合理性、可行性和有效性。研究发现，为NBC选择的属性组能准确表示属性依赖关系，并减少不同后验概率密度之间的重叠。此外，与NBC、灵活朴素贝叶斯（FNBC）、树增强贝叶斯网络（TAN）、基于增益比属性加权的朴素贝叶斯（GRAWNB）、平均单依赖估计器（AODE）、加权AODE（WAODE）、基于独立成分分析的NBC（ICA-NBC）、隐藏朴素贝叶斯（HNB）分类器以及基于相关性的特征加权朴素贝叶斯过滤器（CFW）的比较结果表明，AG-NBC在测试准确率、受试者工作特征曲线下面积（AUC）和概率均方误差（PMSE）方面均优于其他贝叶斯分类器。实验结果表明，AG-NBC是缓解构建NBC时属性独立性假设的一种有效且高效的方法。

Keyword:

naive Bayesian classifier

attribute independence assumption

attribute grouping

dependent attribute group

posterior probability

class-conditional probability

Attribute grouping-based naive Bayesian classifier

摘要

期刊

机构

引用论文