arrow
返回

A Cross-Modal Generation Algorithm for Temporal Force Tactile Data for Multidimensional Haptic Rendering

delete2025-01-01
delete0
PRE
AI
R
Rui Song
刘国红 (Guohong Liu)
Y
Yan Zhang
X
Xiaoying Sun
DOI:10.1109/TMM.2025.3590907delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
利用多模态数据之间的相关性来生成触觉数据已成为提升触觉渲染保真度的首选方法。然而,现有研究往往忽视了力触觉数据的时序动态。为填补文献中的这一空白,本文引入了一种联合视觉-听觉方法,生成时序触觉数据(VA2T)算法,重点关注力触觉数据的时序和长期依赖性。VA2T使用特征提取网络提取音频和图像特征,然后利用注意力机制和编码器融合这些特征。触觉重建器生成时序摩擦力和法向力,并通过空洞因果卷积确保力触觉数据中的时序依赖性。在LMT数据集上的仿真实验表明,与Transformer和基于视听辅助的触觉信号重建(AVHR)算法相比,VA2T算法分别将生成的摩擦力的均方根误差(RMSE)降低了29.44%和32.37%,法向力的RMSE分别降低了23.30%和35.43%。此外,我们开发了一种结合电振动和机械振动的触觉渲染方法,用于渲染生成的摩擦力和法向力。主观实验结果证实,采用VA2T方法生成的数据的渲染保真度显著高于采用Transformer和AVHR方法生成的数据。
Keyword:
Dilated causal convolution
electrovibration
force tactile data
haptic rendering
mechanical vibration
multimodal

期刊

IEEE Transactions on Multimedia 封面图
IEEE Transactions on Multimedia
IF:
9.7
论文数:
4.5K
被引数:
2.4W

机构

I
Inner Mongolia University
学者数:
8.3K
论文数: 4.9K
被引数: 10
D
Dalian University of Technology
学者数:
6.0W
论文数: 4.4W
被引数: 5.5W
J
Jilin University
学者数:
8.7W
论文数: 5.6W
被引数: 8.9K
学者 查看更多机构
引用论文

引用论文

Toward Image-to-Tactile Cross-Modal Perception for Visually Impaired People
err2021-04-01
err20
PREAI
errLiu, Huaping; Guo, Di; Zhang, Xinyu; Zhu, Wenlin; Fang, Bin; Sun, Fuchun
err分享
err收藏
Long Short-Term Memory长短期记忆
err1997-11-01
err0
PREAI
errSepp Hochreiter; Jürgen Schmidhuber
err分享
err收藏
Data-driven rendering of fabric textures on electrostatic tactile displays
err2018-03-01
err0
PREAI
errJian Jiao; Yuru Zhang; Dangxiao Wang; Yon Visell; Dekun Cao; Xingwei Guo; Xiaoying Sun
err分享
err收藏
HapTex: A Database of Fabric Textures for Surface Tactile Display
err2019-07-01
err0
PREAI
errJian Jiao; Yuru Zhang; Dangxiao Wang; Xingwei Guo; Xiaoying Sun
err分享
err收藏
学者 查看更多内容