用光进行计算的设想已存在超过70年,但直到最近,它大多还停留在研究领域。不过,过去几年间,光计算已逐渐成长为一个快速发展的产业:该领域公司的市场估值总计已达22.2亿美元,相较2022年的4亿美元大幅增长。有预测认为,这一市场在未来几年还将继续呈指数级增长。
这股热潮的成因不难猜到:AI。尤其是AI推理——也就是利用AI模型响应用户查询的过程——很大程度上推动了庞大且耗电惊人的数据中心的建设,而相对节能的光学系统,被视为一条潜在的出路。
“业界对光子学的兴趣,很大程度上是因为AI推理已经真真切切地受制于功耗,而且这种限制相当显著,”康奈尔大学应用与工程物理学副教授彼得·麦克马洪(Peter McMahon)说,他从事光计算研究已逾十年。
至少在理论上,光学计算承诺能以远低于当今GPU的功耗,完成同样的数学运算。从电子器件转向光学器件,是一个颇为激进的方案。然而,就像暴雨后冒出的蘑菇一样,光计算初创公司正在美国、中国、德国和以色列如雨后春笋般涌现。尽管要与英伟达这样的GPU巨头竞争是一个雄心勃勃的目标,但对光计算的投入已经催生了一系列配套方案的发展,比如设计替代性的AI算法、承接科学计算任务,以及增强网络内计算能力。
英国公司Optalysys正把光计算元件嵌入数据中心本已使用光信号的网络传输路径中。该公司基本的片上光学元件(如插图所示)是一个傅里叶变换计算器。
"我认为,如果这些公司中有不少都能认真尝试一番,对这项技术本身会是件好事,"耶鲁大学应用物理助理教授、麦克马洪实验室前博士后洛根·赖特(Logan Wright)说。"我认为通过这个过程发展出来的技术将会非常、非常有用,能让光子系统即便搭不上这波AI浪潮,也具备完成一些相当特别任务的能力。"
光学能否拯救AI推理
推理占据了AI能耗的大头。业界已投入数十亿美元设计先进芯片,力求尽可能高效地运行推理任务。推理计算的核心,是一种被反复执行、每秒要做无数次的运算:矢量-矩阵乘法。
早在1978年,光计算先驱约瑟夫·W·古德曼(Joseph W. Goodman)及其同事就提出了一种用光完成矢量-矩阵乘法的方法。其装置相对简单:假设一个长度为N的矢量需要与一个N×N的矩阵相乘。一排N个发光二极管将矢量的各个元素编码为光的强度——某个二极管发出的光越亮,代表该元素的数值越大。接着,一个柱面透镜将光在垂直方向上展开,本质上把这个矢量复制了N份。随后,光线穿过一个N×N像素的衰减器,每个像素都按矩阵中对应位置的数值对光进行衰减,这一过程完成了乘法运算。最后,另一个方向与第一个透镜垂直的柱面透镜,把每一行的光重新汇聚起来,完成求和。最终的矢量结果由一排探测器测得。
矢量-矩阵乘法
当今AI中计算量最大的部分,是矢量-矩阵(或矩阵-矩阵)乘法。对于长度为N(此处N=3)的矢量,需要N?(此处为9)次乘法步骤和3次累加步骤——即一次性完成的多次加法。光学之所以可能优于电子器件,论据大致如下:将一个N×N矩阵与长度为N的矢量相乘,需要N?次乘法。在电子器件中,每一次乘法都要消耗一定能量,因此总能耗按N?的量级增长。而在光学中,乘法步骤是被动的:只要矩阵保持不变,光穿过衰减器几乎不消耗任何能量。唯一的能耗来自把矢量编码为光信号以及读出结果,但这部分能耗是按矢量长度N计算的,而非N?。因此,随着相乘的矢量和矩阵规模增大,光学方案的能耗将按N而非N?的量级增长。
自古德曼1978年提出该设想以来,现有光学元件的质量已大幅提升。事实上,2022年,由麦克马洪领导的康奈尔大学研究团队就展示了一种光学神经网络,其每次乘法运算消耗的能量不到一个光子——约为2.5×10???焦耳。而在标准计算机中,单次乘法运算的能耗在10???到10???焦耳之间,这意味着光学方案或许能将能耗降低10万倍。
但麦克马洪提醒不要对此过度外推。首先,上述计算并未包含将数据编码为光信号的成本。即便光学方案在能耗的增长规律(标度关系)上更具优势,实际应用中起决定作用的不只是标度关系,还有具体的系数。假设用电子器件完成一次乘法的能耗是1皮焦,而用光学方案编码一个矢量元素的能耗是1000皮焦,那么只要矢量长度N小于1000个元素,电子方案仍然胜出。
麦克马洪说,这个例子与现实情况相差不远:"其中一个关键问题是,系统要做到多大规模,才能开始显现优势?很多人针对各种神经网络都做过这类计算,粗略的答案大致落在N等于1000到N等于10000这个区间。"
此外,还有一条重要的计算原理需要牢记,即所谓的阿姆达尔定律。
"阿姆达尔定律其实根本不该被称为'定律',它不过是一条简单的常识,"麦克马洪说。"如果你有某种方法能加速计算,它能加速代码的90%,但剩下10%的代码无法加速,那么你能获得的最大加速比就是10倍。"
对AI推理而言,关键目标是节省能耗,而非节省时间,但阿姆达尔的这一洞见依然适用。当今AI推理代码中有多大比例能更好地用光学方案处理,是一个复杂的问题,因方案而异,但答案绝不是100%。矢量-矩阵乘法(或矩阵-矩阵乘法)只是推理工作负载的一部分——数据还需要经过其他非线性运算的处理。
综合考虑上述种种局限,当今的光计算公司目标是在能效上比现今的GPU提升10到80倍。问题在于,它们能否在传统电子器件追上这些能效增益之前,就实现规模化落地。
在自由空间中弥合差距
总部位于英国牛津的初创公司Lumai,或许是从古德曼及其团队的工作中获得了最直接的启发。Lumai的产品负责人菲利普·伯尔(Phillip Burr)表示,光在空气中(而非在片上波导中)传播的自由空间方案,正是该公司技术得以超越GPU的关键。
Lumai没有采用古德曼方案中那种固定的衰减器,而是使用了一种现代可编程设备,即空间光调制器——一种类似于高级液晶显示屏的像素化薄膜,能够同时调制光的强度和相位。其余设计在实际操作上更为复杂,但原理与古德曼的设计类似:矢量被编码为光信号,经由透镜复制N份,穿过空间光调制器,再由另一个透镜汇聚,最终结果转换回数字电信号。电子器件随后负责处理非线性函数运算。伯尔说:"一次完整的矢量-矩阵乘法在单个光学周期内即可完成。"
要准确比较光学方案与GPU方案的能耗,首先必须明确所考察的是工作负载的哪一部分。现代推理过程通常分为两个阶段:预填充(prefill,即处理输入查询并使其在模型中传播)和解码(decode,即逐字——或者说逐个Token——生成输出)。两者之中,预填充的计算强度更大,其过程基本上就是针对同一矩阵反复进行矢量-矩阵乘法。解码阶段也涉及矢量-矩阵乘法,但强度不及预填充——解码阶段真正耗时的环节,是在内存中读写所需的矩阵数据。
自由空间光学中的矢量-矩阵乘法
古德曼的光学计算机是光子矢量-矩阵乘法器中最简单的版本。在此方案中,矢量元素被编码为三个光源(如LED)发出的光的强度。随后,一个柱面透镜将光在垂直方向上展开。矩阵元素则被编码为衰减器的不透明度,使得光穿过每个像素时,都会被该位置对应的矩阵数值衰减(相乘)。最后,另一个柱面透镜在水平方向上汇聚光线,完成累加步骤,光电探测器则测出输出矢量。Lumai及该领域的其他公司,目前都将重点放在计算密集的预填充阶段。Lumai表示,其Iris Nova光学服务器已于2026年4月开放评测,这是一个概念验证产品,而其下一代产品Iris Aura服务器完成预填充所需的能耗,将仅为GPU的十分之一左右。
总部位于得克萨斯州奥斯汀的初创公司Neurophos,则为古德曼的计算机设计赋予了不同的变化。为了在小型设备中实现更强的性能,该公司发挥了自身在超材料方面的专长——超材料是一种能够在小于单个光波长尺度上操控光线的复杂结构。该公司设计的结构尺寸大于一个波长,但依然相当微小,每边只有几微米。
"如今用标准硅光子学能做出的光学晶体管的等效器件,长度大约有2毫米,"Neurophos首席执行官帕特里克·鲍恩(Patrick Bowen)说。"你根本没法在芯片上塞下足够多这样的器件,以达到能与台积电最新最先进制程相媲美的计算密度。"
总部位于得克萨斯州奥斯汀的Neurophos,正利用密集排布在芯片上的微型超材料来操控入射光,从而实现高效的矢量-矩阵乘法。
鲍恩的团队设计了基于超材料的调制器,可通过编程在微米尺度上操控光的相位和强度,最终在边长5毫米的方形芯片上实现了一个1000×1000的调制器阵列。据鲍恩介绍,Neurophos的调制器切换速度是标准液晶空间光调制器的1万倍以上。
鲍恩还声称其产品在性能上优于英伟达的Blackwell GPU:"我们的目标是达到Blackwell B200速度的50倍、能效的35倍,并且已有明确路线图,将在后续几代产品中把速度提升到250倍、能效提升到约90倍。"
鲍恩表示,该方案与CMOS工艺兼容,这意味着Neurophos能够在半导体行业现有的大规模量产产线上生产其芯片。该公司目前正在选定生产基地,为2028年向客户交付机柜产品做准备。
Lumai和Neurophos都在押注,自己能赶在传统CMOS工艺追上其能效优势之前,率先将产品推向市场。伯尔表示:"硅工艺会持续进步,但如今数字电路的能效提升速度放缓,成本却在攀升。光学提供了一种不同的标度关系,矩阵规模越大,效率提升越明显。更大的模型、更长的上下文窗口,以及智能体工作负载,都在把预填充环节推向这个方向。"
在芯片上弥合差距
自由空间光学如古德曼的设计所展示的那样,承诺实现近乎零能耗的乘法运算。但自古德曼20世纪70年代的工作以来,光学领域的另一项重大进展是集成光子学,它使得在片上引导和操控光成为可能。
"这项技术的关键,是尽可能实现大规模的矢量运算,以最大化利用光学的优势,正因如此,自由空间方案前景可期,"耶鲁大学的洛根·赖特说。"但使用自由空间方案在根本上仍然更具挑战,因为相较于硅光子学,它的基础设施积累要薄弱得多。"
还有一些公司——比如总部位于上海的Lightelligence和总部位于德国斯图加特的Q.ANT——则选择放弃自由空间光学的三维优势,转而追求能够直接集成在硅芯片上的光子器件所具备的可制造性。
"自由空间光学产品通常被限制在年产1000台左右的规模,这是有充分理由的,"Q.ANT的首席执行官兼创始人迈克尔·弗特施(Michael Fortsch)说。"原因在于透镜检测、组装工艺等诸多环节。从目前来看,可用半导体工艺制造的集成光子电路,在实现规模化量产方面的前景要光明得多。"
集成光子学中的矢量-矩阵乘法
在片上用光实现矢量-矩阵乘法的一种方式,是将矢量元素编码为依次在波导中传播的光脉冲的振幅。乘法运算由马赫-曾德尔干涉仪完成:一条波导分成两条支路,其中一条支路中传播的光,其相位会受到一个受控电压的调制而发生偏移。当两条支路的光重新汇合时,所得到的光强取决于这个相位偏移量,从而完成了一次乘法运算。将矩阵元素编码进这些相位偏移量中,就把这一过程变成了矢量-矩阵乘法。随后,光电探测器收集这三路脉冲的光,完成累加步骤。
在Q.ANT的方案中,输入数据通过片上调制器被编码为光脉冲的相位和振幅。在这套方案中,一个矢量表示为一系列这样的脉冲,每个脉冲代表一个矢量元素。光通过波导在芯片上传导。基本的计算单元是一个干涉仪:一条波导分为两条支路,其中一条支路上传播的光束会受到一个受设定电压控制的相位偏移。当两条支路重新汇合时,产生的干涉效应完成了一次计算。随后,光电探测器和模数转换器将结果重新转换为数字数据。这种串行化的矢量-矩阵乘法方案,比古德曼那种一次性完成全部运算的计算机要慢。不过,这种速度上的劣势可以通过同时使用多个波长来弥补,即同时将多个矢量编码进光信号中,有效缓解这一问题。
Q.ANT的原生处理服务器(Native Processing Server)已在德国慕尼黑的莱布尼茨超算中心和于利希的于利希超算中心等研究机构投入使用。今年早些时候,该公司宣布已向云服务提供商Ionos完成一笔商业销售。与之类似,Lightelligence的PACE2处理器能够完成128×128元素矩阵的乘法运算。在2025年发布的一篇论文中,该公司描述了其在1吉赫兹频率、3纳秒延迟下完成矢量-矩阵乘法的能力,并宣称其延迟比传统GPU低两个数量级。
然而,光学方案在能效上的优势尚未得到确凿证明,Q.ANT的弗特施也承认目前仍有很长的路要走。主要问题在于模数转换及其逆过程所产生的能耗。弗特施表示,只要还不存在一种快速、低能耗的转换器,"我们就看不到……在光学中实现通用矢量-矩阵乘法机器具有现实意义的可能性。"
超越矢量-矩阵乘法
并非该领域的所有人都聚焦于矢量-矩阵乘法,尽管这在当今AI推理领域炙手可热。事实上,虽然光学矢量-矩阵乘法这一构想可追溯到20世纪70年代,但用光学进行其他类型计算的探索,最早甚至可以追溯到20世纪50年代。例如,傅里叶变换——一种将复杂波形或信号分解为其构成频率的常见运算——用一个透镜在光学中即可完成。
"数字芯片必须用许多微小的步骤来逼近傅里叶变换,需要动用成百上千个晶体管以及更多的计算周期,"Q.ANT的弗特施说。"使用这类非线性函数的模型,能够以更少的参数和更少的运算,达到同等甚至更好的精度。"
尽管Q.ANT的光学处理器一直被用于传统的矢量-矩阵乘法,但该公司认为,其最大的优势其实在于那些利用更复杂函数的替代性AI架构。弗特施说:"诸如图像分类和图像分割这类任务,严重依赖傅里叶级数、变换以及其他非线性函数等运算,而这些正是光子学天然擅长处理的。我们认为生成式AI领域,尤其是图像和视频生成,也存在类似的潜力。"
总部位于以色列的初创公司LightSolver,同样瞄准了那些更天然适配其设备特性的算法。"如果你观察电磁波的传播过程,本质上,它们的本性就是在求解微分方程,"LightSolver首席执行官兼联合创始人鲁蒂·本-施洛米(Ruti Ben-Shlomi)说。她表示,相比传统计算机,在该公司的激光处理单元(LPU)上求解微分方程,速度更快,能效也更高。
LightSolver的LPU是对古德曼光学计算机设计的一种有趣改造。它同样具备输入光、以空间光调制器形式存在的可编程薄膜,以及输出光,但整套装置被置于一个谐振腔中,光会在腔内来回反射多次,才能达到稳定状态。此外,该团队还在腔内放置了一种增益介质,其作用原理与激光器内部的增益介质十分相似,能让来回反射的光不断增强。
总部位于以色列的初创公司LightSolver,正利用自由空间光学以及光本身的天然特性,快速求解微分方程。
LightSolver团队目前也在为其LPU开发AI应用,使用该公司自主研发的算法实现文本生成图像。"我们并不是在飞快地做矢量-矩阵乘法,我们做的是完全不同的事情。我们必须假设,训练模型的方式和随后进行推理的方式是完全不同的。但只要换一种方式去做,你就能在大幅降低能耗、提升速度的同时完成图像生成,"本-施洛米说。LightSolver已经拥有一个可运行的LPU原型,团队目前正在研发一款规模更大、可装入机柜的设备。
在传输途中完成计算
总部位于英国利兹的初创公司Optalysys,正在探索另一种发挥光独特优势的方式。该公司创始人兼首席产品官尼克·纽(Nick New)有自由空间光学的研究背景,因此他深知用光做傅里叶变换是一件非常容易的事情。
Optalysys技术背后的核心思路,是把自由空间光学中的傅里叶变换能力,移植到芯片上实现。纽说:"如今我们不再使用透镜,而是用自己研发的一种元件,它是集成在硅平面内的无源元件,能完成和透镜同样的功能。"通过巧妙设计这一具有多个输出端口的元件,该团队还找到了实现不同运算的方法。纽说:"由于傅里叶变换响应的生成方式本身的特性,你实际上可以从中提取出不同的数学运算。我们能够利用这种模拟光子学方法,以超高的效率产生非常大规模、高精度的数字函数功能。"
"我们实际上是在为目前完全没有处理能力的地方,增添处理能力。"——尼克·纽,Optalysys
Optalysys没有选择从零设计一款加速器,而是瞄准了AI工作负载中一个往往已经处于光域的环节:网络传输。在数据中心里,一排排计算机机柜之间通过光纤相连,而这种光学连接正越来越贴近GPU和CPU本身。
事实上,有些计算已经在数据传输途中完成。这类计算(包括汇总多个GPU的运算结果)是在网络交换卡内部执行的。但这些板卡在完成这些数学运算时,自然也要消耗电力。而借助无源光学元件,这些计算几乎可以"零成本"完成。
纽表示,除了用于GPU之间的通信外,Optalysys的技术还可用于辅助GPU与内存之间的通信,比如即时完成数据压缩和格式转换等工作。回到AI推理的话题上,这种方法有望改善工作负载中的解码部分。与预填充不同,解码过程受限于内存带宽:其中成本最高的环节,是模型数据在内存中的来回搬运。纽说:"我们更专注于那些受内存带宽制约的应用,这与'在通信路径中增添处理能力'这一原则十分契合。我们实际上是在为目前完全没有处理能力的地方,增添处理能力。"
光计算未来可能的走向
光学计算机取代数据中心里的GPU的可能性有多大?耶鲁大学的赖特并不算太乐观。"算法发展的方向,不会自动朝着对光学有利的方向演进,"他说。"事实上,它很可能朝着相反的方向发展,因为(AI模型开发者)希望自己的模型在GPU上运行得更好。"
不过,即便我们提交的AI查询在未来几年内还不会用光来计算,这些对该技术的投入也不会白费。赖特说:"我和这个领域的许多人之所以至少还抱有几分乐观,是因为英伟达、台积电这样的公司确实在投入资源,开发封装一体化的硅光子技术——虽然目的不是用于计算,而是用于电路交换和互连,但这恰恰为未来做更多尝试打开了一扇门。"
无论这项技术最终会被用于矢量-矩阵运算、定制化仿真,还是网络内计算,整个计算生态系统似乎都已为多元化方案的涌现做好了准备。Q.ANT的弗特施说:"我们认为,未来的数据中心将是异构的:CPU、GPU和光子神经处理单元(NPU)各自承担最适合自己的任务。让每项任务都运行在最合适、最高效的硬件上,能够显著降低能耗和运营成本。"
