arrow
返回

Visual Navigation for Embodied Agents Using Semantic-Based Multi-Modal Cognitive Graph

delete2025-01-01
delete0
PRE
AI
L
Liu, Qiming
X
Xinmin Du
刘
刘哲 (Zhe Liu)
H
Hesheng Wang
DOI:10.1109/TIP.2025.3637722delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
视觉导航是对于在广阔工作空间中运行的具身智能体而言的基础。这些智能体的认知能力构成了创建智能行为模式的基本基础。记忆和推理是这些能力中的关键组成部分。前者通过保存广泛的事件时空感知线索来增强决策能力,而后者则允许基于长期经验进行前瞻性和高级的概率推断任务分布。尽管已有针对这两种认知模态的独立研究,但由于它们在表示和行为特征上的显著差异,它们的整合以增强决策能力仍面临重大挑战。在本文中,我们引入了基于语义的多模态认知图(SMCG)用于智能视觉导航。该框架的特点在于对记忆和推理能力进行了统一的语义级表示。具体而言,SMCG并非像先前方法那样直接记忆感知特征,而是记录观察到的物体序列。同时,推理基于表示物体间相关性的语义关系图。此外,我们开发了一个层次化认知提取(HCE)管道,并利用它来解码SMCG和情境感知子图中的认知线索,从而增强智能导航行为。图像目标导航的实验结果表明了显著的性能提升,这归功于异构认知模态的有效诱导和合理应用。
Keyword:
Visual navigation
embodied agents
cognitive ability
memory
reasoning

期刊

IEEE Transactions on Image Processing 封面图
IEEE Transactions on Image Processing
IF:
13.7
论文数:
1.0W
被引数:
8.4W

机构

S
shanghai jiao tong university
学者数:
15.7W
论文数: 11.7W
被引数: 159
引用论文

引用论文

Hierarchical Object-to-Zone Graph for Object Navigation
err2021-10-01
err0
errOAAI
errSixian Zhang; Xinhang Song; Yubing Bai; Weijie Li; Yakui Chu; Shuqiang Jiang
err分享
err收藏
Online Learning of Reusable Abstract Models for Object Goal Navigation
err2022-06-01
err0
errOAAI
errTommaso Campari; Leonardo Lamanna; Paolo Traverso; Luciano Serafini; Lamberto Ballan
err分享
err收藏
Visual Genome: Connecting Language and Vision Using Crowdsourced Dense Image Annotations视觉基因组: 使用众包密集图像注释连接语言和视觉
err2017-02-06
err3.1K
errOAAI
errKrishna, Ranjay; Zhu, Yuke; Groth, Oliver; Johnson, Justin; Hata, Kenji; Kravitz, Joshua; Chen, Stephanie; Kalantidis, Yannis; Li, Li-Jia; Shamma, David A.; Bernstein, Michael S.; Li Fei-Fei
err分享
err收藏
Bayesian Relational Memory for Semantic Visual Navigation
err2019-10-01
err0
errOAAI
errYi Wu; Yuxin Wu; Aviv Tamar; Stuart Russell; Georgia Gkioxari; Yuandong Tian
err分享
err收藏
Visual Object Search by Learning Spatial Context
err2020-04-01
err0
PREAI
errRaphael Druon; Yusuke Yoshiyasu; Asako Kanezaki; Alassane Watt
err分享
err收藏
Continuous Scene Representations for Embodied AI
err2022-06-01
err0
errOAAI
errSamir Yitzhak Gadre; Kiana Ehsani; Shuran Song; Roozbeh Mottaghi
err分享
err收藏
学者 查看更多内容