具有注意力机制的时间依赖学习卷积神经网络在运动想象脑电解码中的应用

MI-EEG解码中基于注意力机制的时间依赖学习卷积神经网络(CNN)

研究背景与问题描述

脑机接口(Brain-Computer Interface, BCI)系统提供了一种通过实时翻译大脑信号与计算机进行通信的新途径。近年来,BCI技术逐渐在为瘫痪患者提供辅助和预防性护理方面发挥了重要作用。现有的许多BCI系统依赖于非侵入性且相对便捷的脑电图(EEG)信号记录来追踪大脑活动。然而,即使在同一MI任务期间,不同时期产生不同MI相关模式的时间依赖性特性也往往被忽略,从而大大限制了MI-EEG解码性能。

论文来源与作者信息

论文《A Temporal Dependency Learning CNN with Attention Mechanism for MI-EEG Decoding》于2023年发表在IEEE Transactions on Neural Systems and Rehabilitation Engineering期刊上。该论文由Xinzhi Ma、Weihai Chen、Zhongcai Pei、Jingmeng Liu、Bin Huang和Jianer Chen等人共同撰写。他们分别来自北京航空航天大学自动化科学与电气工程学院、安徽大学电气工程与自动化学院以及浙江中医药大学第三附属医院老年康复科。

研究流程

数据表示与处理

研究团队提出了一种利用卷积神经网络(CNN)与注意力机制相结合的方法来提高MI-EEG信号的解码性能。首先,通过一组带通滤波器对EEG信号进行预处理,从而构建一个多视角数据表示。在本研究中,滤波器组包含9个带通滤波器,每个滤波器的频带宽度为4 Hz,频率范围介于4到40 Hz之间。

空间和频谱信息学习

其次,论文中的网络使用一个空间卷积层,通过整合来自不同通道与滤波频带的数据,学得空间与频谱信息。具体地,研究团队使用了64个空间滤波器以及激活函数和批归一化层,使输出生成的一系列时间序列用于进一步处理。

时间窗口分割与特征提取

接下来,论文中采用了一系列不重叠的时间窗口来对输出的时间序列进行分割,并在每个时间窗口中进一步提取辨别特征。研究团队使用了时间方差层通过计算每个时间窗口内信号的方差来捕获不同阶段的MI相关模式。这些方差特征在经过对数运算后被输入到时间注意力模块中进一步处理。

时间注意力模块

时间注意力模块设计用于分配特征在不同时间窗口中的重要性权重,并将它们融合成辨别性更强的特征。在该部分,论文团队使用了深度可分离卷积将多个注意头独立应用到不同的特征子空间,从而执行多头注意力机制。这样,每个特征子空间受到不同的注意力权重影响,最终通过特征融合生成最终的分类特征向量。

分类

最后,所有特征被展平到1D特征向量,然后输入到全连接层执行最终的分类。

实验结果

论文基于两个公开的MI-EEG数据集,即BCI Competition IV-2a(BCIC-IV-2a)和Korea University EEG dataset(OpenBMI),评估了所提出网络的性能。实验结果显示,该网络在这两个数据集上的分类性能均优于现有最先进的算法。

结果分析

在BCIC-IV-2a数据集上,该网络在会话依赖和会话独立设置中的平均准确度分别为82.32%和79.48%,相比于现有方法,准确度分别提高了2.30%和4.29%。在OpenBMI数据集上,该网络也取得了显著的性能提升,但两种设置下的提升差异较小。

兴趣点与重要发现

  1. 时间依赖学习:首次研究了在不同时间段之间发现辨别特征的时间依赖性。这一探索也展示了时间依赖学习在提高MI-EEG解码性能方面的潜力。
  2. 时间注意力模块:通过合理设计,该模块有效提升了特征的辨别能力,显著改善了解码性能。

可视化与结果解释

为进一步解释该方法的优越性,研究团队还进行了特征可视化分析。结果表明,带有时间注意力模块的网络所学得的特征比其他方法更为集中,并且能够更好地区分不同类别。

网络训练与性能消耗

该论文进一步分析了网络的训练过程、训练时间和参数量,展示了网络的稳定性和高效性。最后,研究团队还比较了从不同时间段提取EEG信号的解码精度,发现较长时间窗口的数据相比于较短时间窗口的数据能够获得更好的解码效果。

研究结论

该研究提出了一种通过时间依赖学习和注意力机制提高MI-EEG解码性能的新方法。实验结果验证了该方法在提高解码准确度方面的显著效果。这一研究指出了学习时间依赖性在开发高效MI-EEG解码系统中的潜力,未来可进一步探索自动滤波器选择、跨被试任务的适用性及其他类型EEG信号的解码方法。

该研究不仅在理论上丰富了EEG信号处理领域,也在实际应用中为开发更高效的脑机接口系统提供了宝贵的参考。