Classification using hyperdimensional computing: a review with comparative analysis

Pere Vergés

doi:10.1007/s10462-025-11181-2

2025-03-17

DOI：10.1007/s10462-025-11181-2

原文链接

原文求助

摘要

En 中文

超维计算（HD），又称向量符号架构（VSA），是认知计算领域一种新兴且极具前景的范式。在其核心中，HD/VSA的特点在于其独特的使用高维随机向量进行信息组合表示的方法。该领域近期研究热潮的推动力源于其源于低分辨率表示的计算效率以及在少样本学习场景中表现优异的能力。然而，当前文献缺乏对各种方法的全面比较分析，因为每种方法都使用不同的基准来评估其性能。这一空白阻碍了对该领域前沿进展的追踪，并构成了其整体进步的重大障碍。为填补这一空白，本综述不仅提供了最新文献的概念性概述，还介绍了HD/VSA分类方法的全面比较研究。研究首先概述了现有文献中提出的将信息编码为高维向量的策略。这些向量是构建分类模型的关键组成部分。此外，我们评估了现有文献中提出的各种分类方法。该评估包括使用重新训练和再生训练等技术来提升模型性能。为完成本研究，我们进行了一项全面的实证研究。该研究通过两个基准进行了系统比较，深入分析了各种HD/VSA分类方法，第一个基准是HD/VSA中使用的七个流行数据集，第二个基准包括来自UCI机器学习库的121个数据子集。为促进未来基于HD/VSA的分类研究，我们开源了本文综述的方法的基准测试和实现。由于所考虑的数据是表格型数据，基于键值对的编码方法成为最佳选择，其在保持高效率的同时具有更高的精度。其次，迭代自适应方法表现出显著的有效性，可能根据具体问题辅以再生策略。此外，我们展示了HD/VSA如何在有限训练样本的训练过程中实现泛化。最后，通过使模型记忆经历大量比特翻转，我们证明了HD/VSA方法的鲁棒性。结果显示，在发生40%比特翻转之前，模型性能保持合理稳定，此后模型性能急剧下降。总体而言，本研究对不同方法进行了全面性能评估，一方面观察到分类性能提升的趋势，但另一方面，这些进展往往被通用方法超越。这要求与更广泛的机器学习文献进行更好的整合；所开发的基准测试框架为此提供了实用手段。

Keyword:

Hyperdimensional computing

Vector symbolic architectures

Distributed representations

Classification

Machine learning