arrow
返回

ObjCtrl-2.5D: Training-free Object Control with Camera Poses

delete2026-04-01
delete0
PRE
AI
王州霞 封面图
王州霞 (Wang, Zhouxia)
L
Lan, Yushi
S
Shangchen Zhou
C
Chen Change Loy *
DOI:10.1007/s11263-026-02810-6delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
本研究旨在实现图像到视频(I2V)生成中更精确和通用的对象控制。当前方法通常使用2D轨迹表示目标对象的运动,这往往无法捕捉用户意图,并频繁产生不自然的结果。为增强控制,我们提出ObjCtrl-2.5D,一种无需训练的对象控制方法,该方法使用扩展了深度信息的3D轨迹作为控制信号。通过将对象运动建模为相机运动,ObjCtrl-2.5D将3D轨迹表示为相机姿态序列,从而无需训练即可利用现有的相机运动控制I2V生成模型(CMC-I2V)实现对象运动控制。为使原本设计用于全局运动控制的CMC-I2V模型能够处理局部对象运动,我们引入一个模块以将目标对象与背景分离,实现独立的局部控制。此外,我们设计了一种有效方法,通过跨帧共享对象区域内的低频扭曲潜在特征,实现更精确的对象控制。大量实验表明,ObjCtrl-2.5D相比无需训练的方法显著提高了对象控制精度,且相比基于2D轨迹的基于训练的方法提供了更多样化的控制能力,能够实现如对象旋转等复杂效果。项目页面。
Keyword:
Object motion control
Image-to-video generation
Diffusion model
Training-free

期刊

International Journal of Computer Vision 封面图
International Journal of Computer Vision
IF:
9.3
论文数:
3.9K
被引数:
2.8W

机构

N
Nanyang Technological University
学者数:
4.9W
论文数: 4.8W
被引数: 8.1W
引用论文

引用论文

GenWarp: Single Image to Novel Views with Semantic-Preserving Generative WarpingGenWarp:从单幅图像到语义保持的生成式变形新视点
err2024-01-01
err0
PREAI
errSeo,Junyoung; Fukuda,Kazumi; Shibuya,Takashi; Narihira,Takuya; Murata,Naoki; Hu,Shoukang; Lai,Chieh-Hsin; Kim,Seungryong; Mitsufuji,Yuki
err分享
err收藏
err分享
err收藏
MotionDirector: Motion Customization of Text-to-Video Diffusion ModelsMotionDirector:文本到视频扩散模型的运动定制
err2025-01-01
err0
PREAI
errZhao,Rui; Gu,Yuchao; Wu,Jay Zhangjie; Zhang,David Junhao; Liu,Jia-Wei; Wu,Weijia; Keppo,Jussi; Shou,Mike Zheng
err分享
err收藏
DragAnything: Motion Control for Anything Using Entity RepresentationDragAnything:基于实体表示的任意物体运动控制
err2024-09-30
err0
PREAI
errWeijia Wu; Zhuang Li; Yuchao Gu; Rui Zhao; Yefei He; David Junhao Zhang; Mike Zheng Shou; Yan Li; Tingting Gao; Di Zhang
err分享
err收藏
VideoCrafter2: Overcoming Data Limitations for High-Quality Video Diffusion Models
err2024-06-16
err0
PREAI
errHaoxin Chen; Yong Zhang; Xiaodong Cun; Menghan Xia; Xintao Wang; Chao Weng; Ying Shan
err分享
err收藏
Make Pixels Dance: High-Dynamic Video Generation
err2024-06-16
err0
PREAI
errYan Zeng; Guoqiang Wei; Jiani Zheng; Jiaxin Zou; Yang Wei; Yuchen Zhang; Hang Li
err分享
err收藏
err分享
err收藏
学者 查看更多内容