arrow
返回

Multi-Modal Primitive Retrieval for Compositional Zero-Shot Learning

delete2026-02-21
delete0
PRE
AI
C
Chenchen Jing
H
Haozhe Zhang
J
J. G. Lu
Y
Yang Liu
H
Hao Chen
X
Xiaoqin Zhang
C
Chunhua Shen *
DOI:10.1007/s11263-026-02763-wdelete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
组合泛化,即理解由已知基本元素组成的未见组合,是人类智能的基本属性之一。为了评估视觉模型的此类能力,组合零样本学习(CZSL)要求通过学习已知组合来识别未见属性-对象组合。对于CZSL而言,将学习到的已知基本元素(即属性或对象)的知识组合成新颖组合至关重要。在本工作中,我们提出了一种检索增强方法,用于显式地从视觉域和语言域检索已知基本元素的知识,以进行组合零样本学习。我们的方法通过检索模块增强了标准的多路径分类方法。具体而言,我们首先构建多个数据库,存储丰富多样的基本元素知识,包括训练图像的属性和对象表示,以及属性和对象的描述文本表示。对于输入的训练/测试图像,我们使用视觉和文本检索模块,分别检索具有相同属性和对象的训练图像表示和文本描述。通过使用检索到的表示来增强基本元素表示和输入图像的图像表示,以进行组合识别。通过参考语义相似图像和文本,所提出的方法能够为组合泛化回忆已知基本元素的知识。在三个广泛使用的数据集上的实验表明了所提出方法的有效性。
Keyword:
Multi-Modality
Retrieval Augmentation
Compositional Zero-Shot Learning
Compositional Generalization

期刊

International Journal of Computer Vision 封面图
International Journal of Computer Vision
IF:
9.3
论文数:
3.9K
被引数:
2.8W

机构

C
college of computer science and technology
学者数:
302
论文数: 107
被引数: 0
C
cad&cg
学者数:
3
论文数: 1
被引数: 0
引用论文

引用论文

Re-ViLM: Retrieval-Augmented Visual Language Model for Zero and Few-Shot Image Captioning
err2023-01-01
err0
PREAI
errYang,Zhuolin; Ping,Wei; Liu,Zihan; Korthikanti,Vijay; Nie,Weili; Huang,De-An; Fan,Linxi; Yu,Zhiding; Lan,Shiyi; Li,Bo; Shoeybi,Mohammad; Liu,Ming-Yu; Zhu,Yuke; Catanzaro,Bryan; Xiao,Chaowei; Anandkumar,Anima
err分享
err收藏
Visual question answering: A survey of methods and datasets
err2017-10-01
err0
errOAAI
errQi Wu; Damien Teney; Peng Wang; Chunhua Shen; Anthony Dick; Anton van den Hengel
err分享
err收藏
Task-Driven Modular Networks for Zero-Shot Compositional Learning
err2019-10-01
err0
errOAAI
errSenthil Purushwalkam; Maximillian Nickel; Abhinav Gupta; Marc'aurelio Ranzato
err分享
err收藏
Reveal: Retrieval-Augmented Visual-Language Pre-Training with Multi-Source Multimodal Knowledge Memory
err2023-06-01
err0
errOAAI
errZiniu Hu; Ahmet Iscen; Chen Sun; Zirui Wang; Kai-Wei Chang; Yizhou Sun; Cordelia Schmid; David A. Ross; Alireza Fathi
err分享
err收藏
Estimation of Near-Instance-Level Attribute Bottleneck for Zero-Shot Learning
err2024-02-27
err2
PREAI
errJiang, Chenyi; Shen, Yuming; Chen, Dubing; Zhang, Haofeng; Shao, Ling; Torr, Philip H. S.
err分享
err收藏
The Psychology of Associative Learning
err
IF0
err2010-01-26
err0
PREAI
errDavid R. Shanks
err分享
err收藏
学者 查看更多内容