arrow
返回

Hypergraph Mamba Reasoning-Based Social Relation Recognition

delete2025-01-01
delete0
PRE
AI
W
Wang Tang
卿粼波 封面图
卿粼波 (Linbo Qing)
P
Pingyu Wang
L
Lindong Li
C
Ce Zhu
DOI:10.1109/TIP.2025.3592551delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
从图像中识别社会关系对于提升机器对社会交互的感知至关重要。当前研究主要关注探索单类型关系推理框架,例如家庭中的父子、母子与儿子之间的关系。然而,现实场景通常涉及复杂的混合关系,如友谊关系和专业关系,这些关系由于难以在这些关系之间建立稳健的逻辑连接,给当前方法带来了挑战。事实上,在混合社会关系识别设置中,交互扩展到超越二元结构的多元结构。为了有效探索这些多元交互,我们提出了一种新颖的超图Mamba(HGM)框架。具体而言,我们构建了两种超图,即人物-人物超图(PPH)和人物-物体超图(POH),以建模这些高阶多元交互。HGM模块在这些超图结构中进行社会关系推理,其中包括一个顶点选择算法,通过过滤混淆因素来缓解推理混淆,以及一个顶点交互算子,通过捕捉长距离顶点依赖关系来寻找最优的全局顶点邻域。此外,提出了一种多级Transformer,以自适应地对齐PPH和POH推断的知识和视觉信号,促进信息融合。我们在多个公开数据集上验证了我们提出的HGM模型的有效性,并进行了广泛的分析研究,以阐明其优异性能的原因。实验结果表明,与当前最先进的方法相比,我们的HGM模型在预测社会关系方面取得了更优的准确性。代码和数据集可在以下地址获取:https://github.com/tw-repository/HGM-SRR
Keyword:
Social relation recognition
hypergraph mamba
vertex selection algorithm
vertex interaction operator
multi-level transformer

期刊

IEEE Transactions on Image Processing 封面图
IEEE Transactions on Image Processing
IF:
13.7
论文数:
1.0W
被引数:
8.4W

机构

U
university of electronic science and technology of china
学者数:
1.3W
论文数: 4.8K
被引数: 4
S
sichuan university
学者数:
12.1W
论文数: 7.8W
被引数: 100
引用论文

引用论文

AVS-Mamba: Exploring Temporal and Multi-modal Mamba for Audio-Visual Segmentation
err
IF0
err2025-01-01
err0
PREAI
errSitong Gong; Yunzhi Zhuge; Lu Zhang; Yifan Wang; Pingping Zhang; Lijun Wang; Huchuan Lu
err分享
err收藏
When I Fall in Love: Capturing Video-Oriented Social Relationship Evolution via Attentive GNN
err
IF0
err2024-06-01
err0
PREAI
errPenggang Qin; Shiwei Wu; Tong Xu; Yanbin Hao; Fuli Feng; Chen Zhu; Enhong Chen
err分享
err收藏
Personalized machine learning for robot perception of affect and engagement in autism therapy
err2018-06-20
err195
errOAAI
errRudovic, Ognjen; Lee, Jaeryoung; Dai, Miles; Schuller, Bjoen; Picard, Rosalind W.
err分享
err收藏
MLMamba: A Mamba-based Efficient Network for Multi-label Remote Sensing Scene Classification
err
IF0
err2025-01-01
err0
PREAI
errRuiqi Du; Xu Tang; Jingjing Ma; Xiangrong Zhang; Licheng Jiao
err分享
err收藏
学者 查看更多内容