返回
Ranking-oriented cross-modal hashing
DOI:10.1016/j.engappai.2025.112195.png)
摘要
En 中文
多模态交叉哈希已成为多媒体检索的主流解决方案。大多数方法利用成对或多对损失作为排名一致性的代理,主要关注局部关系模式。然而,这些方案与全局排名指标对齐不佳,后者考虑所有候选项之间的相对顺序。这种错位可能导致语义相似项在列表中排名靠后。此外,此类方法严重依赖负样本的选择,这可能导致训练不稳定并需要仔细调整。为解决此问题,我们提出了一种新颖的排名导向交叉模态哈希(ROCMH)框架,该框架基于视觉-语言模型进行全局排名优化。具体而言,我们设计了一种可微分的排名导向目标,称为交叉模态排名对齐损失。它平滑地模拟离散排名,并自然地建模候选列表中的排名关系,从而促进更一致的交叉模态排名。同时,考虑到视觉和文本之间的感知差距,我们建议采用一种带有模态感知提示的纳米参数训练策略。该策略大大减少了可训练参数的数量,同时确保每种模态为语义信息学习提供独特信号。在三个公开数据集上的广泛实验表明,该方法实现了卓越的检索性能,并将可训练参数数量减少到视觉-语言模型的0.2%以下。源代码地址:https://github.com/QinLab-WFU/ROCMH 。
期刊
IF:
8
论文数:
5.4K
被引数:
3.5W
机构
引用论文
Semantic decomposition and enhancement hashing for deep cross-modal retrieval面向深度跨模态检索的语义分解和增强哈希算法
PATTERN RECOGNITION
IF7.6
Deep robust multilevel semantic hashing for multi-label cross-modal retrieval面向多标签跨模态检索的深度鲁棒多级语义哈希算法
PATTERN RECOGNITION
IF7.6

