• ISSN: 1674-7461
  • CN: 11-5823/TU
  • 主管:中国科学技术协会
  • 主办:中国图学学会
  • 承办:中国建筑科学研究院有限公司

2022, 14(4): 9-16. doi: 10.16670/j.cnki.cn11-5823/tu.2022.04.02

基于MediaPipe的手势识别用于挖掘机遥操作控制

1. 

华中科技大学 土木与水利工程学院, 武汉 430074

2. 

潍柴动力股份有限公司, 潍坊 261061

通讯作者: 窦全礼,

网络出版日期: 2022-08-01

作者简介: 王如斌(1998-),男,在读硕士研究生,主要研究方向:数字建造与工程安全

基金项目: 湖北省自然科学杰出青年基金项目“盾构施工安全风险智能控制” 2021CFA091湖北省重大科技专项“智能建造关键技术及应用” 2020ACA006国家自然科学基金面上项目“工程安全风险误警致因机理与智能预警方法研究” 72171092

Gesture Recognition Based on MediaPipe for Excavator Teleoperation Control

1. 

School of Civil and Hydraulic Engineering, Huazhong University of Science and Technology, Wuhan 430074, China

2. 

Weichai Power Co., Ltd., Weifang 261061, China

Corresponding author: Quanli Dou,

Available Online: 2022-08-01

引用本文: 王如斌, 窦全礼, 张淇, 周诚. 基于MediaPipe的手势识别用于挖掘机遥操作控制[J]. 土木建筑工程信息技术, 2022, 14(4): 9-16. doi: 10.16670/j.cnki.cn11-5823/tu.2022.04.02

Citation: Rubin Wang, Quanli Dou, Qi Zhang, Cheng Zhou. Gesture Recognition Based on MediaPipe for Excavator Teleoperation Control[J]. Journal of Information Technologyin Civil Engineering and Architecture, 2022, 14(4): 9-16. doi: 10.16670/j.cnki.cn11-5823/tu.2022.04.02

摘要:挖掘机有十分广泛的应用场景,但在某些危险工况下,对其采用遥操作是更好的选择。同时,近年来随着机器视觉和深度学习的发展,涌现出一系列手势识别的算法和框架。为了探究基于MediaPipe的手势识别算法在挖掘机遥操作中的应用,本文将手部不同手势与挖掘机的不同动作相对应,提出一种利用手势实现挖掘机遥操作的新型控制方式。在实验室环境下,对实验用挖掘机器人进行运动学分析,采用MediaPipe对15种手势类型进行实时静态识别,生成指令并利用Arduino单片机实现对挖掘机的控制。结果显示,该系统具有良好的性能,可以用于挖掘机的遥操作控制,为挖掘机的远程控制提供了一种新型的人机交互形式。

关键词: 手势识别, MediaPipe, 挖掘机, 单片机, 遥操作
[1]

梁万福, 黄鸣辉, 刘浩, 等. 某型液压挖掘机驾驶室内低频噪声控制方法研究[J]. 工程机械, 2018, 49(08): 11-15+87. 

[2]

张琳. 基于用户模式的挖掘机人机系统研究[D]. 太原理工大学, 2018.

[3]

甘平, 杨乐巍, 房增强, 等. 挥发性有机物污染场地挖掘过程中污染扩散特征[J]. 环境科学, 2013, 34(12): 4619-4626. 

[4]

李运华, 范茹军, 杨丽曼, 等. 智能化挖掘机的研究现状与发展趋势[J]. 机械工程学报, 2020, 56(13): 165-178. 

[5]

张凤军, 戴国忠, 彭晓兰. 虚拟现实的人机交互综述[J]. 中国科学: 信息科学, 2016, 46(12): 1711-1736. 

[6]

惠丹. 基于深度学习算法的可穿戴设备手势识别系统设计[J]. 微型机与应用, 2019, 038(009): 30-33. 

[7]

刘续丹, 侯红霞, 杨钰淇, 等. 基于数据手套的交互系统设计[J]. 通讯世界, 2019, 26(04): 319-320. 

[8]

易靖国, 程江华, 库锡树. 视觉手势识别综述[J]. 计算机科学, 2016, 43(S1): 103-108. 

[9]

沙洁, 麻建, 牟海军, 等. 基于视觉的动态手势识别综述[J]. 计算机科学与应用, 2020, 010(005): P. 990-1001. 

[10]

Denavit J, Hartenberg R S. A kinematic notation for lower-pair mechanisms based on matrices[J]. 1955.

[11]

Zhang F, Bazarevsky V, Vakunov A, et al. MediaPipe Hands: On-device Real-time Hand Tracking[J]. 2020.

[12]

张圆圆. 基于视觉的手势识别技术及其应用研究[J]. 计算技术与自动化, 2015, 34(01): 131-135. 

计量
  • PDF下载量(55)
  • 文章访问量(1904)
  • HTML全文浏览量(825)
目录

Figures And Tables

基于MediaPipe的手势识别用于挖掘机遥操作控制

王如斌, 窦全礼, 张淇, 周诚

  • 版权所有© 《土木建筑工程信息技术》编辑部
  • 京ICP备17057008号
  • 地址:北京市朝阳区兴化路2号院1号楼
  • 电话:010-64517910 邮编:100013
  • 微信号:tmxxjs  QQ:342182902  E-mail:tmxxjs@163.com
本系统由北京仁和汇智信息技术有限公司设计开 技术支持: info@rhhz.net