arrow
返回

Language-Embedded 6D Pose Estimation for Tool Manipulation

delete2025-09-01
delete0
PRE
AI
Y
Yuyang Tu
Y
Yunlong Wang
H
Hui Zhang
W
Wenkai Chen
张
张建伟 (Jianwei Zhang)
DOI:10.1109/LRA.2025.3587559delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
机器人工具操作需要在视觉挑战条件下(如形状变化和遮挡)理解任务相关的语义。本文提出了一种新颖的语言嵌入语义6D位姿估计框架,该框架将自然语言指令与3D点云数据相结合,以实现工具功能部件的类别级6D位姿估计。通过嵌入来自大型语言模型(LLMs)的语义信息并利用基于扩散的位姿估计器,本方法实现了跨多种工具类别的鲁棒泛化。我们介绍了一个全面的合成数据集,该数据集针对工具操作场景进行了设计,并标注了功能部件的6D位姿。在合成数据集和真实机器人上进行的广泛实验表明,本系统能够解释自然语言命令、预测功能部件的位姿,并在操作任务中表现出显著提高的准确性和泛化能力。
Keyword:
6D Pose estimation
dataset generation
large language model (LLM)
robotic manipulation

期刊

I
IEEE Robotics and Automation Letters
IF:
5.3
论文数:
1.9K
被引数:
3.9W

机构

U
university of hamburg
学者数:
3.7W
论文数: 2.9W
被引数: 30
引用论文

引用论文

A review on object pose recovery: From 3D bounding box detectors to full 6D pose estimators
err2020-04-01
err75
errOAAI
errSahin, Caner; Garcia-Hernando, Guillermo; Sock, Juil; Kim, Tae-Kyun
err分享
err收藏
Category-Level Articulated Object Pose Estimation
err2020-06-01
err0
errOAAI
errXiaolong Li; He Wang; Li Yi; Leonidas J. Guibas; A. Lynn Abbott; Shuran Song
err分享
err收藏
Gradient Response Maps for Real-Time Detection of Textureless Objects
err2012-05-01
err0
errOAAI
errS. Hinterstoisser; C. Cagniart; S. Ilic; P. Sturm; N. Navab; P. Fua; V. Lepetit
err分享
err收藏
err分享
err收藏
RobotGPT: Robot Manipulation Learning From ChatGPT
err2024-03-01
err0
errOAAI
errYixiang Jin; Dingzhe Li; Yong A; Jun Shi; Peng Hao; Fuchun Sun; Jianwei Zhang; Bin Fang
err分享
err收藏
学者 查看更多内容