.png){kind=icon}
返回
GaussDB-Vector: A Large-Scale Persistent Real-Time Vector Database for LLM Applications
.png){kind=icon}
PRE
AI
DOI：10.14778/3750601.3750619.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
向量数据库被广泛用作解决大型语言模型（LLM）应用弱点的根本工具，具体包括幻觉问题和高推理成本。然而，现有的向量数据库要么服务于具有低延迟内存搜索的利基应用，要么提供复杂的数据管理能力，但以低性能为代价。为解决这些局限性，我们提出GaussDB-Vector，具备低延迟可扩展搜索、实时插入和删除、高可用性、大规模分布式搜索以及混合标量-向量过滤搜索能力。这些特性主要通过为图基向量索引设计的创新存储架构实现，该架构针对I/O操作进行了优化，并能适应不同数据集大小和维度，辅以新颖的缓冲策略以进一步减少I/O负担。GaussDB-Vector支持产品量化、并行搜索，并通过SIMD、GPU和NPU实现硬件加速，从而在性能上超越竞争基线1到5倍。
期刊
P
IF:
3.3
论文数:
563
被引数:
1.2W
机构
引用论文
SingleStore-V: An Integrated Vector Database System in SingleStoreSingleStore-V：SingleStore中的集成向量数据库系统
.png){kind=icon}
PREAI
分享收藏分享收藏
分享收藏Efficient and Robust Approximate Nearest Neighbor Search Using Hierarchical Navigable Small World Graphs使用分层可导航小世界图的高效且鲁棒的近似最近邻搜索
OAAI
OAAI分享收藏
查看更多内容