arrow
返回

Embodiment in multimodal large language models

delete2026-04-01
delete0
delete
OA
AI
A
Akila Kadambi *
L
Lisa Aziz-Zadeh
A
António R. Damásio
M
Marco Iacoboni
S
Srini Narayanan
DOI:10.1016/j.neuron.2026.03.004delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
多模态大型语言模型(MLLMs)在连接文本和视觉输入方面展示了非凡能力。然而,在感官丰富且多模态的真实世界环境中,MLLMs在具体的物理和社会交互方面仍存在局限,而生物体的具身体验似乎至关重要。我们建议,MLLM发展的下一个前沿需要融入内部和外部具身——不仅建模与世界的外部交互,还要建模内部状态和驱动力。本文描述了人类内部和外部具身的机制,并将其与当前MLLM在早期阶段与人类表征对齐的进展联系起来。我们的双具身框架提出在MLLM中建模这些具身形式之间的交互,以弥合多模态数据与世界经验之间的差距。
Keyword:
Multimodal large language models
Embodied cognition
Internal embodiment
External embodiment
World experience

期刊

Neuron 封面图
Neuron
IF:
15
论文数:
1.4W
被引数:
9.9W

机构

U
university of southern california
学者数:
4.7W
论文数: 3.8W
被引数: 51
G
Google DeepMind
学者数:
73
论文数: 19
被引数: 0
U
university of california
学者数:
1.9W
论文数: 8.0K
被引数: 10
学者 查看更多机构
引用论文

引用论文

Inferring intentions from biological motion: A stimulus set of point-light communicative interactions
err2010-02-01
err0
errOAAI
errValeria Manera; Ben Schouten; Cristina Becchio; Bruno G. Bara; Karl Verfaillie
err分享
err收藏
Flamingo: A Visual Language Model for Few-Shot Learning火烈鸟: 一种少镜头学习的视觉语言模型
err2022-01-01
err0
PREAI
errAlayrac,Jean-Baptiste; Barr,Iain; Barreira,Ricardo; Binkowski,Mikolaj; Borgeaud,Sebastian; Brock,Andy; Cabi,Serkan; Donahue,Jeff; Gong,Zhitao; Han,Tengda; Hasson,Yana; Lenc,Karel; Luc,Pauline; Menick,Jacob L; Mensch,Arthur; Miech,Antoine; Millican,Katherine; Monteiro,Marianne; Nematzadeh,Aida; Reynolds,Malcolm; Ring,Roman; Rutherford,Eliza; Samangooei,Sina; Sharifzadeh,Sahand; Simonyan,Karén; Vinyals,Oriol; Zisserman,Andrew
err分享
err收藏
Self-Organization, Embodiment, and Biologically Inspired Robotics
err2007-11-16
err0
errOAAI
errRolf Pfeifer; Max Lungarella; Fumiya Iida
err分享
err收藏
err分享
err收藏
err分享
err收藏
err2001-01-01
err0
PREAI
errSusan Hurley
err分享
err收藏
学者 查看更多内容