Enhancing data classification using locally informed weighted k-nearest neighbor algorithm

Hassan I. Abdalla

doi:10.1016/j.eswa.2025.126942

2025-06-01

PRE

Hassan I. Abdalla

Ali A. Amer *

DOI：10.1016/j.eswa.2025.126942

原文链接

原文求助

摘要

En 中文

本研究提出了一种新颖的局部信息加权kNN算法（LIWkNN），旨在降低异常值和不平衡类别的不利影响。LIWkNN同时考虑查询点及其邻近数据点的标签，强调其对查询点邻域的关注，从而能够捕捉局部模式和变化。该算法通过比较邻居的标签来更新分配给它们的权重，这些权重随后用于下一步预测查询点的标签。初始时，所有训练点的权重均设为1。其次，使用传统的KNN分类器进行预测，并验证预测结果是否与测试数据中的查询标签一致。如果预测标签与实际查询标签不同，则更新这些权重，否则保持不变。根据权重更新过程，在加权KNN分类过程中，异常值的影响被降至最低，特别是在其频繁被选作不同查询的邻居时。第三，为解决类别不平衡问题，该方法基于类别密度调整权重，确保少数类点主要接收来自自身类别的邻居。最后，完成权重更新过程后，提出的KNN将使用最终权重对测试点进行分类。LIWkNN的竞争性性能和简洁架构体现了其创新性，使其有别于前沿的竞争对手。为验证LIWkNN在更广泛数据集上的泛化能力，本研究在六个实验阶段中，采用五种评估指标（准确率、F1测度、ROC、平均绝对误差-MAE和几何平均-GM）对六十个数据集（包括平衡、不平衡、含噪声、时间序列和图像数据集）进行了全面评估。依据多准则分析支持的结果，LIWkNN在考虑的大多数数据集上表现显著更优，且在一般情况和特定k值下均具有更高的前景。

Keyword:

k-nearest neighbor

kNN

Data classification

Data mining

Machine learning

Artificial intelligence