Luminal AI公司在完成2300万美元早期融资后，公布了一项计划，旨在打破英伟达公司在人工智能芯片行业建立的强大软件壁垒。
此次A轮融资由Standard Capital领投，Y Combinator、SagaVC、Liquid 2和Felicis等现有投资者参投，使Luminal迄今为止的融资总额超过2800万美元。此前该公司曾在约一年前完成530万美元的种子轮融资。
如今，英伟达已是家喻户晓的名字。这家芯片制造商借助生成式AI浪潮，市值一度飙升至5万亿美元的惊人水平，超越苹果公司、Alphabet公司和亚马逊公司，成为全球市值最高的上市公司。但如果有人认为仅凭图形处理器就能让英伟达脱颖而出，那就大错特错了——其真正称霸AI计算行业的原因不仅在于芯片本身，更在于软件。
近二十年来，英伟达专有的统一计算设备架构（简称CUDA）软件框架才是真正的差异化所在，它如同一道几乎无法突破的屏障，让超威半导体公司、谷歌公司和亚马逊云科技等竞争对手难以撼动其市场领先地位。尽管这些竞争对手已经开发出一些性能强劲的图形处理器和定制化专用集成电路，能够以比英伟达硬件更低的成本运行AI工作负载，但它们始终无法在软件生态规模上与英伟达匹敌。
包括TensorFlow和PyTorch在内的几乎所有主流AI框架，都是基于英伟达的CUDA软件原生构建的，这使得开发者无需做任何修改即可在英伟达的图形处理器上运行AI模型。但若想在其他芯片上运行这些模型，开发者就需要重写大量底层代码，这项工作既具挑战性又耗时。正因如此，绝大多数AI工作负载仍然运行在英伟达芯片之上。
许多开发者不愿支付租用或购买英伟达图形处理器所需的高昂费用，但他们也不想花费数月时间去微调代码库，以便让AI模型在其他硬件上实现最优运行——而这正是Luminal致力于为他们解决的难题。
这家初创公司的解决方案是一个双管齐下的架构平台，由其专有的搜索编译器和一个全托管的推理云组成，二者结合，消除了将AI工作负载迁移到不同芯片上所带来的种种麻烦。
联合创始人兼首席执行官乔·菲奥蒂向SiliconANGLE表示，该编译器的工作原理是系统性地探索在目标芯片上运行神经网络的不同方式，从而找出最优路径。它会对每种变体进行基准测试，直到找到最佳解决方案，然后自动生成开发者所需的代码。
代码生成完成后，系统会缓存该实现方案，以便在重复出现的推理工作负载中复用。菲奥蒂表示，通过这种方式，开发者能够以极低的成本在异构芯片架构上运行其AI应用。
谈及公司的起源，菲奥蒂说：“我们最初是在GitHub上开放式构建这个项目的，当时AI的普及势头正劲，我们很快就发现，市场对一种能够在不同硬件上更高效运行AI模型的方式存在巨大需求。”
Luminal的编译器和推理云主要面向需要大规模可扩展推理能力的高吞吐量、持续运行AI应用而设计，比如AI编程工具、自动化图像生成引擎、AI视频生成器和实时语音智能体等应用场景。
“运行AI的成本不应该限制谁有机会去构建它，”菲奥蒂说。“我们正在构建的基础设施旨在让高性能推理变得更加触手可及，为开发者提供英伟达生态系统之外的更多选择，同时不必在速度或成本上做出妥协。”
Luminal在四个月前刚刚推出其编译器和基于公有云的推理基础设施，目前采用率正在快速增长。该平台目前每月处理的Token数量已超过45万亿个——这一数字大约相当于Together AI公司迄今为止处理的Token总量的10%。Together AI是一家估值高达80亿美元的基础设施独角兽企业，已在该市场深耕四年有余。Luminal已经与亚马逊云科技建立了牢固的合作关系，并将大量工作负载运行在该公司的Tranium处理器上。
展望未来，Luminal计划扩充工程团队，扩大市场推广规模，并持续优化其编译器和推理基础设施，以支持更多芯片硬件和AI模型。
Standard Capital的道尔顿·考德威尔表示，他看好Luminal是因为AI推理是全球增长最快的市场。“我们投资这家公司，是因为它拥有深厚的技术实力，并已证明自己能够从异构硬件中榨取出出色的性能，”他说。“Luminal能够最大限度地发挥已购买图形处理器的性能……这是一种极具杠杆效应的能力。”
尽管Luminal已经有了一个颇具前景的开端，但它绝非唯一一家试图打破英伟达在AI行业CUDA垄断地位的公司。谷歌和亚马逊云科技都各自在推进相关布局，尤其是推出了PyTorch的替代性AI框架，让开发者能够更轻松地创建可在其原生处理器上运行的AI模型和应用。
Luminal还面临着来自Spectral Compute等初创公司的竞争，后者提供一套编程工具包和编译器，使基于CUDA的代码能够在任何AI加速芯片上原生运行。此外还有一些开源项目，比如UXL基金会推出的OneAPI，它可以将CUDA代码转换为能够轻松在任何芯片上运行的软件。
