arrow
返回

Data-And Knowledge-Driven Visual Abductive Reasoning

delete2025-09-23
delete0
PRE
AI
L
Liang Chen
王文冠 封面图
王文冠 (Wenguan Wang)
L
Ling Chen
Y
Yi Yang
DOI:10.1109/TPAMI.2025.3613712delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
溯因推理寻求对部分观察结果最可能的解释。尽管溯因推理在人类日常推理中经常被使用,但在计算机视觉文献中很少被探讨。在本文中,我们提出了一项新任务,即视觉溯因推理(VAR),该任务支撑了在日常视觉情境中研究溯因推理的机器智能。给定一组不完整的视觉事件,AI系统不仅要描述观察到的内容,还要推断能够最好解释观察前提的假设。我们创建了第一个大规模VAR数据集,其中包含总计9K个示例。我们进一步设计了一个基于Transformer的VAR模型——Reasoner v2,用于知识驱动、因果链式推理。Reasoner v2首先在编码器中采用了一种上下文相关的方向性位置嵌入策略,以捕捉观察结果的因果相关时序结构,并为前提和假设生成判别性表示。然后,Reasoner v2从外部知识库中提取压缩的因果知识,以实现超越观察的推理。最后,Reasoner v2通过级联多个解码器来生成并逐步优化前提和假设句子。句子的预测分数用于指导级联推理过程中的跨句信息流。我们的VAR基准测试结果表明,Reasoner v2超越了众多知名的视频-语言模型,但与人类表现相比仍有较大差距。
Keyword:
Visual abductive reasoning
causal knowledge
multimodal transformer

期刊

IEEE Transactions on Pattern Analysis and Machine Intelligence 封面图
IEEE Transactions on Pattern Analysis and Machine Intelligence
IF:
18.6
论文数:
1.1K
被引数:
9.8W

机构

U
university of technology sydney
学者数:
1.6W
论文数: 2.0W
被引数: 25
Z
zhejiang university
学者数:
17.7W
论文数: 12.1W
被引数: 152
引用论文

引用论文

BLEU布卢
err2001-01-01
err0
errOAAI
errKishore Papineni; Salim Roukos; Todd Ward; Wei-Jing Zhu
err分享
err收藏
Guided Generation of Cause and Effect
err2020-07-01
err0
errOAAI
errZhongyang Li; Xiao Ding; Ting Liu; J. Edward Hu; Benjamin Van Durme
err分享
err收藏
Relational Action Forecasting
err2019-06-01
err0
errOAAI
errChen Sun; Abhinav Shrivastava; Carl Vondrick; Rahul Sukthankar; Kevin Murphy; Cordelia Schmid
err分享
err收藏
err分享
err收藏
VisualCOMET: Reasoning About the Dynamic Context of a Still Image
err2020-10-29
err0
errOAAI
errJae Sung Park; Chandra Bhagavatula; Roozbeh Mottaghi; Ali Farhadi; Yejin Choi
err分享
err收藏
学者 查看更多内容