这篇文档属于类型a，即报告了一项原创研究。以下是对该研究的学术报告：
作者及机构
本研究的主要作者包括Qinghe Zheng、Xinyu Tian、Zhiguo Yu、Yao Ding、Abdussalam Elhanashi、Sergio Saponara和Kidiyo Kpalma。他们分别来自山东管理学院智能工程学院、西安高技术研究院光学工程重点实验室、意大利比萨大学信息工程系以及法国雷恩国立应用科学学院电子与工业信息系。该研究于2023年9月22日发表在期刊《Drones》上。
学术背景
本研究的主要科学领域是无人机通信系统中的自动调制分类（Automatic Modulation Classification, AMC）。AMC在非合作通信环境中对提高通信效率和确保通信安全至关重要。然而，现有方法在准确性和效率之间存在矛盾，阻碍了AMC在无人机通信系统中的实际应用。为了解决这一问题，本研究提出了一种基于轻量级移动无线电Transformer（MobileRat）的实时AMC方法。该方法的创新之处在于首次将剪枝技术与轻量级Transformer模型结合，用于处理时域信号，从而在保证AMC准确性的同时提高推理效率。
研究流程
1. 模型构建
MobileRat模型由两个卷积层（C1和C2）、两个MobileNet模块（M1和M2）、两个无线电Transformer模块（R1和R2）、一个全局池化层（G）、一个全连接层（F）和一个Softmax层（S）组成。C1层用于提取信号的低级特征，C2层用于编码高级特征。MobileNet模块通过点卷积和深度可分离卷积提取复杂特征，而无线电Transformer模块则通过局部和全局特征的结合学习信号的调制知识。
权重剪枝
在模型训练过程中，基于信息熵的权重重要性评估准则被用于逐步移除冗余权重。信息熵用于衡量权重的随机性和不确定性，较高的信息熵表明该层权重包含的信息较少，可以移除更多冗余权重。通过迭代训练和剪枝，模型在保持AMC准确性的同时显著减少了参数量。
数据集与实验设置
研究使用了两个公开数据集：RadiomL 2018.01a和RadiomL 2016.10a。前者包含24种调制方案的200万个I/Q信号，后者包含11种调制方案的22万个信号。数据集按6:2:2的比例分为训练集、验证集和测试集。实验分别在工作站和边缘设备（NVIDIA Jetson TX2）上进行，以评估模型在不同计算资源下的性能。
实验结果
MobileRat模型在两个数据集上表现出色。在RadiomL 2018.01a数据集上，MobileRat-A的平均AMC准确率为65.9%，最高准确率在+18 dB时达到98.4%。在RadiomL 2016.10a数据集上，MobileRat-B的平均AMC准确率为62.3%，最高准确率在+14 dB时达到99.2%。通过剪枝，MobileRat-A和MobileRat-B的参数量分别减少了33%和62%，推理速度显著提高。
鲁棒性分析
研究还评估了模型对超参数和信号表示的鲁棒性。实验表明，MobileRat对初始学习率和批量大小的变化不敏感，AMC准确率变化小于1%。此外，结合I/Q和A/P信息的信号表示显著提高了模型的分类性能。
主要结果
- MobileRat模型在AMC任务中表现出优异的准确性和效率。
- 剪枝技术显著减少了模型的参数量，同时保持了较高的分类性能。
- 模型对超参数和信号表示的鲁棒性使其能够适应复杂的无人机通信环境。
结论
本研究提出了一种基于轻量级Transformer的实时AMC方法，首次将剪枝技术与轻量级Transformer模型结合，用于处理时域信号。实验结果表明，MobileRat在AMC准确性和推理效率之间实现了良好的平衡，适用于资源受限的无人机通信系统。该研究为无人机通信系统的智能化发展提供了重要的技术支持。
研究亮点
- 首次将剪枝技术与轻量级Transformer模型结合，用于AMC任务。
- 提出了基于信息熵的权重剪枝方法，显著减少了模型参数量。
- 在多个公开数据集上验证了模型的优越性，并在边缘设备上实现了实时推理。
其他有价值的内容
研究还探讨了模型对不同调制方案的分类性能，特别是在低信噪比（SNR）条件下的表现。实验结果表明，MobileRat在高SNR条件下能够有效区分多种调制方案，但在极低SNR条件下性能有限。未来研究计划通过引入先验信息，进一步提高模型在复杂通信环境中的泛化能力。
以上是对该研究的全面报告，涵盖了研究背景、方法、实验、结果及其意义。