分享自:

自由空间与纳米光子学中的光学神经网络综述

期刊:IEEE AccessDOI:10.1109/access.2023.3300231

类型b

这篇综述文章由孙振林(Zhenlin Sun)、余苗(Miao Yu)、宋正勋(Zhengxun Song)、刘伟文(Weiwen Liu)、邢刚耀(Gangyao Xing)和周牧涵(Muhan Zhou)撰写,他们均来自长春理工大学。文章于2023年7月31日发表在《IEEE Access》期刊上,数字对象标识符为10.1109/ACCESS.2023.3300231。

主题与背景

本文主要探讨了自由空间和纳米光子学平台上的光学神经网络(Optical Neural Network, ONN)。随着数据爆炸式增长,传统基于冯·诺依曼架构的计算方法逐渐无法满足未来的计算需求。光学神经网络因其高速、高带宽和能够克服计算能力瓶颈的潜力而成为一种潜在解决方案。随着光学和纳米光子学的发展,复杂的光学神经网络可以在自由空间和纳米光子平台上实现。

主要观点及其论据

光学矩阵计算

光学神经网络的基础是光学矩阵计算。人工神经网络结构涉及大量的矩阵运算,而光学矩阵计算使用光子而非电子,避免了电子固有的限制并大大加速了计算过程。文章提到,光学矩阵乘法的概念最早由卡内基梅隆大学的R. A. Heinz、J. O. Artman和S. H. Lee于1970年提出,并通过相干光学相关性数学证明了其实现的可能性。随后,斯坦福大学的J. W. Goodman在1978年提出了第一个光学向量矩阵乘法器的理论模型。近年来,由于光学元件制造的进步,光子矩阵计算研究迅速进展,促进了光学神经网络的发展。

自由空间中的光学神经网络

自由空间中的光学神经网络主要包括傅里叶神经网络和衍射深度神经网络(Diffractive Deep Neural Networks, D2NN)。傅里叶神经网络利用4f系统进行图像分类,该系统依赖于傅里叶变换原理和卷积定理。例如,Julie Chang等人在2018年提出了一种混合卷积神经网络用于图像分类。此外,Lin等人在2018年首次提出了一种全光学深度学习架构D2NN,其分类准确率达到93.39%。这些网络展示了光学计算在人工智能领域的巨大潜力。

纳米光子学平台上的光学神经网络

纳米光子学平台上的光学神经网络则主要依靠光波导设备如微环谐振器(Microring Resonator, MRR)或马赫-曾德尔干涉仪(Mach-Zehnder Interferometer, MZI)。Tait等人在2017年开发了世界上第一个光子神经网络,并展示了其超快计算速度。Feldmann等人在2019年提出了一种全光学脉冲突触网络,成功实现了模式识别。这些研究表明,纳米光子学平台可以提供高速度和低功耗的独特平台。

训练方法

训练是神经网络构建过程中的重要步骤,决定了整个系统的性能。传统的电神经网络通常使用损失函数调整参数,如权重和偏差。然而,光学神经网络的训练面临更多挑战。Hughes等人在2018年提出了一种片上训练算法,通过记录光场分布和相位移器的相位分布来获得梯度值。此外,Zhang等人在2019年提出了一种基于神经进化的设计和训练ONNs策略,使用遗传算法(Genetic Algorithm, GA)和粒子群优化(Particle Swarm Optimization, PSO)训练光子神经网络中的超参数并优化连接权重。

非线性激活

对于人工神经网络,如果没有非线性激活,神经网络只是一个线性链接堆栈,输出也是线性的。光学神经网络中常用的非线性激活方法包括损耗法和调制法。损耗法主要是通过饱和吸收器改变光学器件的光吸收程度来实现非线性特性;调制法则通过光电元件调制光信号以输出非线性信号,主要方式是MZI。Selden等人在1967年通过模拟获得了饱和吸收器的传输特性曲线,并将其应用于光学神经网络的非线性链接。

文章的意义与价值

本文详细回顾了光学神经网络的研究进展,分析了现有问题并讨论了潜在应用。光学神经网络具有远低于电神经网络的功率要求、更少的参数和更快的计算时间,在一些简单应用场景(如MNIST数据集)中,其准确性可与电神经网络相媲美。然而,对于一些复杂数据集,仍需更多证据来证明其准确性。光学神经网络在实时应用方面仍有很长的路要走,但其高速并行处理能力和低能耗使其在深度学习领域具有巨大潜力。未来,光学神经网络无疑将取得更大进步并得到更广泛的应用。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com