arrow
返回

Informative Scene Graph Generation via Debiasing

delete2025-02-24
delete0
PRE
AI
L
Lianli Gao
X
Xinyu Lyu *
Y
Yuyu Guo
Y
Yuxuan Hu
Y
Yuan-Fang Li
L
Lu Xu
申恒涛 封面图
申恒涛 (Heng Tao Shen)
Jingkuan Song 封面图
Jingkuan Song (Jingkuan Song) *
DOI:10.1007/s11263-025-02365-ydelete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
场景图生成旨在检测视觉关系三元组(subject, predicate, object)。由于数据中的偏差,当前模型倾向于预测常见谓词(如on和at),而非信息丰富的谓词(如standing on和looking at)。这种倾向导致精确信息的丢失和整体性能下降。如果一个模型仅使用“stone on road”而非“stone blocking road”来描述图像,可能造成严重的误解。我们认为这种现象由两种不平衡引起:语义空间层不平衡和训练样本层不平衡。针对此问题,我们提出DB-SGG,一种基于消偏而非传统分布拟合的有效框架。它整合了两个组件:语义消偏(SD)和谓词平衡学习(BPL)以应对这些不平衡。SD利用混淆矩阵和二分图构建谓词关系。BPL采用随机欠采样策略和歧义消除策略,以聚焦于信息丰富的谓词。得益于模型无关的流程,我们的方法可轻松应用于SGG模型,并在SGG-VG数据集的三个SGG子任务上的mR@20指标上分别超越Transformer模型136.3%、119.5%和122.6%。我们的方法进一步在另一个复杂的SGG数据集(SGG-GQA)以及两个下游任务(句子到图的检索和图像描述生成)中得到验证。
Keyword:
Scene graph generation
Visual relationship
Debaising
Information content.

期刊

International Journal of Computer Vision 封面图
International Journal of Computer Vision
IF:
9.3
论文数:
3.9K
被引数:
2.8W

机构

S
Southwestern University of Finance and Economics
学者数:
938
论文数: 584
被引数: 56
K
kuaishou
学者数:
1
论文数: 1
被引数: 0
S
Southwest Univ
学者数:
3.0K
论文数: 1.0K
被引数: 340
U
University of Electronic Science and Technology of China
学者数:
5.5K
论文数: 2.2K
被引数: 4.0W
学者 查看更多机构
引用论文

引用论文

Fine-Grained Predicates Learning for Scene Graph Generation
err2022-06-01
err0
errOAAI
errXinyu Lyu; Lianli Gao; Yuyu Guo; Zhou Zhao; Hao Huang; Heng Tao Shen; Jingkuan Song
err分享
err收藏
Generative Compositional Augmentations for Scene Graph Prediction
err2021-10-01
err0
errOAAI
errBoris Knyazev; Harm de Vries; Catalina Cangea; Graham W. Taylor; Aaron Courville; Eugene Belilovsky
err分享
err收藏
BLEU布卢
err2001-01-01
err0
errOAAI
errKishore Papineni; Salim Roukos; Todd Ward; Wei-Jing Zhu
err分享
err收藏
Fine-Grained Scene Graph Generation with Data Transfer
err2022-10-30
err0
PREAI
errAo Zhang; Yuan Yao; Qianyu Chen; Wei Ji; Zhiyuan Liu; Maosong Sun; Tat-Seng Chua
err分享
err收藏
err分享
err收藏
One-shot Scene Graph Generation
err2020-10-12
err0
errOAAI
errYuyu Guo; Jingkuan Song; Lianli Gao; Heng Tao Shen
err分享
err收藏
学者 查看更多内容