arrow
返回

Research on Deep Learning-Based Human–Robot Static/Dynamic Gesture-Driven Control Framework

delete2025-11-27
delete0
delete
OA
AI
G
Gong Zhang
J
Jiahong Su
张树忠 封面图
张树忠 (Shuzhong Zhang) *
J
Jianzheng Qi
Z
Zhicheng Hou
Q
Qunxu Lin
DOI:10.3390/s25237203delete
delete原文链接
delete分享
delete收藏
查看原文
摘要

摘要

En 中文
对于人机手势驱动控制,本文提出了一种基于深度学习的方法,该方法同时利用静态和动态手势来驱动和控制机器人执行抓取和递送任务。该方法采用二维卷积神经网络(2D-CNNs)进行静态手势识别,并采用结合三维卷积神经网络(3D-CNNs)和长短期记忆网络(3D-CNN+LSTM)的混合架构进行动态手势识别。在自定义手势数据集上的结果验证了静态手势的准确率为95.38%,动态手势的准确率为93.18%。随后,为了控制并驱动机器人执行相应任务,进行了手部姿态估计。首先采用MediaPipe机器学习框架提取手部特征点。这些二维特征点随后通过基于深度相机的姿态估计方法转换为三维坐标,接着进行坐标系变换以获取相对于机器人基坐标系的 hand poses。最终,建立了一个人机手势驱动交互的实验平台,部署了上述两种手势识别模型。邀请四位参与者分别在自然光、弱光和强光三种光照条件下,各执行100次手势驱动的抓取和递送任务。实验结果表明,通过静态和动态手势完成任务的平均成功率分别不低于96.88%和94.63%,且任务完成时间均保持在20秒以内。这些发现表明,所提出的方法能够通过自然手部手势实现稳健的基于视觉的机器人控制,展现出在人类-机器人协作应用中的广阔前景。
AI总结

AI总结

对已上传原文的论文进行重点信息的提取,主要内容包括:简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。

期刊

Sensors 封面图
Sensors
IF:
3.5
论文数:
7.2W
被引数:
20.9W

机构

F
Fujian University of Technology
学者数:
3.0K
论文数: 2.0K
被引数: 2.3K
W
Wuyi University
学者数:
4.3K
论文数: 2.3K
被引数: 2.9K
G
Guangdong Polytechnic Normal University
学者数:
1.6K
论文数: 1.4K
被引数: 1.1K
S
south china university of technology
学者数:
6.8W
论文数: 5.1W
被引数: 85
学者 查看更多机构
引用论文

引用论文

Dynamic gesture recognition based on feature fusion network and variant ConvLSTM
err2020-07-28
err0
errOAAI
errYuqing Peng; Huifang Tao; Wei Li; Hongtao Yuan; Tiejun Li
err分享
err收藏
学者 查看更多内容