本文的研究题为“FBG-SenseGlove: A Digital Twin Data Glove for Underwater Gesture Recognition Using Deep Learning”,由Chao Zhang, Hongyu Zhou, Hengchang Nong, Xuemei Pan, Xiangning Wei, Zhihui Ge, Yang Yu和Zhenrong Zhang等人完成。主要研究机构包括广西大学和中国国防科技大学。本研究已被IEEE Sensors Journal接受,预计正式发布时间为2025年。
本研究领域属于人机交互技术,主要围绕基于光纤布拉格光栅(Fiber Bragg Grating, 下称FBG)的穿戴式传感器及其在水下环境中对手势识别的应用展开。近年来,虚拟现实(Virtual Reality, VR)、增强现实(Augmented Reality, AR)以及混合现实(Mixed Reality, MR)的快速发展使得对更自然的沉浸式交互需求愈加迫切。然而,传统基于手持式控制器的交互方式局限性较大,例如受限的交互自然性。而数据手套作为一种灵活而精确的技术,在实现手势识别和触觉反馈方面具有重要潜力。水下应用场景如潜水救援、海洋工程、科学探索以及军事领域对手势交互的依赖性极强。由于水下光线条件差和水体浊度高,基于视觉的传统手势识别技术难以适用,而传统电学传感器在动态水下环境中也表现出灵敏度和可靠性不足的问题。
为应对这些挑战,本研究设计了一种基于FBG技术的数据手套(FBG-SenseGlove),力求克服当前技术在水下复杂条件下的局限。
手套设计及传感技术开发
本研究创新性地采用FBG传感器,并将其与食品级硅胶结合完成集成式封装。这种封装方式相比传统的多模块设计更加稳定,同时增强了传感器在复杂环境中的抗干扰能力。FBG传感器基于光纤反射光波长的偏移来检测应变和弯曲角变化。硅胶的一体化封装确保了手套柔软贴合手部,同时可以有效保护光纤传感器不被过度拉伸导致损坏。特别地,该研究利用了硅胶的高延展性(672%伸长率)和无毒性特性,为传感器的耐用性和舒适性提供保障。手套集成了五个FBG传感器,分别位于手指的近端指间关节(Proximal Interphalangeal, PIP),最大化捕捉手指的关键动作。
传感器响应的实验验证
为测试传感器的性能和可靠性,该研究开展了一系列实验:
数据采集及深度学习模型开发
研究者定义了16种常见水下通信手势,并在六种不同环境下采集了1840组手势样本。这些环境分别为:正常环境、黑暗环境、普通水下环境、有气泡干扰的水下环境、有湍流干扰的水下环境和浑浊水下环境。研究团队设计了一种基于门控递归单元(GRU, Gated Recurrent Unit)的深度学习模型——GRU-FusionNet,用于从多信道FBG数据中提取时间序列特征。通过并行的GRU子模块对每个FBG传感器的数据进行子特征提取,并在特征层完成横向融合,从而提升模型对手势的分类能力。在模型训练过程中,优化器采用Adam,训练批量大小为32,共200个迭代周期,使用Sparse Categorical Crossentropy作为损失函数。
手势识别及数字孪生机器人验证
在手势识别任务中,GRU-FusionNet模型在验证集上的识别精度达到99.48%,而在复杂水下测试环境中的平均精度高达98.98%。为进一步验证手套的实际应用,研究者将其与数字孪生技术相结合,构建了一个3D虚拟手模型,并实现了对六轴机械臂的精准控制。这一成果清晰体现了手套在遥控操作和虚拟设备交互中的潜力。
本研究在科学领域的贡献包括: 1. 提供了一种高效的水下手势交互解决方案,拓展了FBG传感器在复杂环境下的应用; 2. 将深度学习算法与光纤传感技术相结合,证明了手势识别的可行性和有效性; 3. 展望了未来将该技术应用于医疗康复、运动分析以及工业自动化的潜力。
同时,应用价值体现在: 1. 在潜水救援、海洋探测中,手势识别可用于高噪声环境下的信息交流; 2. 在虚拟现实和遥操作领域,增强了人机协作的自然性和灵敏度; 3. 在军事和娱乐领域,提供了战术通信和沉浸式交互的新途径。
研究指出,虽然该手套实现了高精度的水下手势识别,但尚未覆盖手部27个自由度的全部关节。此外,FBG传感器无法捕获动态信息如加速度和空间位置。未来工作可尝试整合视觉传感器或IMU传感器,进行多模态数据融合,以进一步提升检测精度和覆盖范围。同时,小型化FBG解调器的进展将进一步推动该设备在户外和便携交互领域的应用。