完全通过光学，不要计算机也能构建个神经网络？

cslehe

#111723#完整通过光学，不要盘算机也能构建个神经收集？港科大的研讨团队提出了一种全光学神经收集，全部线性变更、激活函数通过光学模块就能实现。
在处置形式辨认、危险治理以及其余一样庞杂的义务时，最强盛的盘算机都没法与人脑对抗。然而，迩来光学神经收集获得的停顿通过摹拟人脑中神经元的反映方法缩小了盘算机与人脑之间的差距。这类光学神经收集比 ML 中的收集能耗更低、运算更快，是将来大范围利用 AI 的坚固基本。
克日，来自香港科技大学的研讨团队在《Optica》杂志上宣布了一篇论文，具体描写了他们提出的双层全光学神经收集。这是一个功效完美的全光学神经收集（AONN），此中所应用的线性函数和非线性激活函数都是完整依据光学实现的。并且这类全光学神经收集还能扩大到愈加庞杂的神经收集架构，从而实现图象辨认等更庞杂的义务。

这个庞杂的货色就是一个两层的全光学神经收集，它和呆板进修中的两层全衔接收集有点「相似」。
研讨团队成员之一 Junwei Liu 表现：「咱们提出的全光学神经收集可能以光速履行光学并行盘算，而且耗能少少。这类大范围的全光学神经收集可利用于图象辨认以及迷信研讨等诸多范畴。」
<h2 style="text-indent: 2em;">港科大的全光学神经收集是甚么在传统混杂光学的神经收集中，光学组件平日用于线性运算，而非线性激活函数平日应用电子的方法实现。这重要由于非线性光学元器件须要高功率的激光器，这在光学神经收集中是很难实现的。
为了战胜这方面的成绩，研讨者应用存在电磁感到通明度的冷原籽实现非线性函数。研讨团队的 Shengwang Du 说：「这类光感到效应能够通过十分小功率的激光器实现，且该效应是基于非线性量子干预的。因而这类效应能够将咱们的体系扩大到量子神经收集，从而处理经典方式难以处理的成绩。」
为了确认新方式的才能与可行性，研讨者构建了一个双层全衔接全光学神经收集，它的输入单位与输出单位数量分辨是 16 与 2。研讨者应用他们的全光学收集分类 Ising 模子（一种磁场的统计学模子），即 order 和 disorder 阶段两个种别。成果标明，全光学神经收集与个别基于盘算机的神经收集一样正确。

图 1：全衔接收集的构造与全光学神经收集的个别构造。
如上 a 为呆板进修中罕见的全衔接收集，b 则是香港科技大学研讨者提出的全光学神经收集（AONN），它们都市停止非线性变更。与个别的 ONN 差别，AONN 没有庞杂的电场神经元，AONN 全部的信都通过光学的方法停止编码。
<h2 style="text-indent: 2em;">非线性光学激活函数这篇论文中心的冲破就是采取了基于光学的非线性激活函数，因而全部收集才干称为「全」光学神经收集。那末甚么长短线性光学激活函数？简略而言，它就是一种基于电磁感到通明的模块（electromagnetically induced transparency， EIT）实现的，咱们只有晓得 EIT 是一种原子跃迁之间的光量子干预效应就行了。
EIT 非线性光学激活函数由激光冷却的 85Rb 原子在 dark-line 二维磁光阱（MOT）中实现，以下图 3（a） 所示。图 3（b） 所示为原子能级，原子在基态|1》中制备。
在没有耦合光束的情形下，原子介质对共振探测光束是不通明的，它如图 3（c） 透射光谱中的实现所示最大水平地被原子接收。

图 3：EIT 非线性光学激活函数的实现。
对「光学神经收集」的不懈寻求
固然，香港科技大学的这个全光学神经收集并非研讨者在该范畴的独一摸索。往年 5 月份，在《Nature》的一篇论文中，德国的研讨职员提出了一种在毫米级光子芯片上实现的、基于相变非线性资料的全光学脉冲神经收集。该收集外部没有光到电的转换，输入的数据被电子调制成差别的波长以注入收集，但以后全部数据都市停顿在芯片上。应用集成相变资料来实现权重调制和神经元集成；它们位于两种微环谐振器上，存在突触或神经功效。
在差别任务波长情形下注入的未调制光接受到在相变资料中积累的神经元激活，以后将它们通报到收集下一层。即便没有芯片上光学增益（在这个进程中，一种介质将能量通报给通过它传输的光），这个设置也可能扩大至更大的收集。作者在其上实现了小范围的监视进修和无监视进修。

应用上述全光学神经元停止监视进修和无监视进修。a 和 b 表现两个神经元在差别输入形式下的输出；C：全光学神经元的无监视进修机制；d：反复表现「0110」形式时四个突触的权重随时光的变更。
香港科技大学的研讨者在论文中也提到了这项研讨，但他们指出，这两项研讨存在基本差异。起首，德国这项研讨中的体系是单层的，而本文中提出的是一个 16 个输入、2 个输出的双层全光学神经收集，还带有 4 个存在非线性光学激活函数的旁边神经元。并且，港科大的研讨者应用 EIT 量子干预实现了非线性光学激活函数，这与那项研讨的方式完整差别。
除了上述全光学神经收集，另有研讨者实验从部分动手，把神经收集的一部份调换为光学卷积层。
客岁 8 月，斯坦福大学在《Nature》子刊《Scientific Reports》上宣布论文，提出在 CNN 收集前端调换一个光学卷积层（opt-conv）的计划，能够在坚持收集机能的同时明显下降能耗，并在 CIFAR⑽ 数据集的分类义务上验证了其论断。
光学卷积层也就是用光学器件实现的卷积层，其光学运算具有高带宽、高互联和并行处置特征，并能光速履行运算，功耗濒临于零。该技巧无望在低功耗呆板进修范畴失掉进一步挖掘。

光学卷积层计划。（a）4f 体系图，能够通过在傅里叶立体上放置相位掩模来实现光学卷积层（opt-conv）。（b）数字卷积层的尺度构成，包含输入图象、卷积核客栈和响应的输出量。（c）opt-conv 层中的等效构成，核和输出以二维数组的情势平铺在立体，而不是重叠在深度维数中。
另外，为了实现光速运算，加州大学洛杉矶分校（UCLA）的研讨者乃至用 3D 打印打造出了固态的神经收集。该收集应用层级传布的光衍射来履行盘算，实现了手写数字的图象辨认，相干结果已宣布在《science》杂志上。
这一主意看似离奇，实在也很天然。神经收集中履行的线性运算，刚好和光衍射的线性彼此感化对应，神经元的权重、激活值观点也能和光的振幅、相位对应（可调）。另外，固态光衍射盘算还存在能耗小、无发烧、光速履行（虽然传统盘算电机路中的电场传布也是光速的，但并未直接对应神经收集的盘算进程）等长处。
固然，也有人对此提出质疑，以为这类固态的神经收集对装置精度和情况震撼请求比拟严厉，可行性有待考据。
更庞杂的光学神经收集
最后，研讨者还打算扩大全光学的这类方式，从而构建存在庞杂架构的大范围全光学深度神经收集，这些收集能用于更庞杂的图象辨认等义务。该论文的作者说：「虽然咱们的任务是观点性验证，但它展现了全光学神经收集在将来人工智能中的可能性。下一代的 AI 硬件在实质上应当更快、更低能耗，从而高效支撑庞杂的 AI 利用。」
更多内容阅读推荐：空调制冷不出水是什么原因