OpenAI周二发布博客文章称,其新款AI芯片Jalapeno在完成任务时效率更高、响应速度更快,性能优于其他AI系统。OpenAI硬件副总裁理查德·霍在媒体简报会上表示,Jalapeno实现了"两全其美"——同时具备更低延迟和更高吞吐量,而AI系统通常"需要在两者之间做出取舍"。

Jalapeno于今年6月首次亮相,是与博通公司合作研发的专用集成电路(ASIC),专为AI推理设计——即运行已训练AI模型以完成任务或部署智能体的过程。

为评估Jalapeno的性能,OpenAI采用了AI推理基准测试平台InferenceX进行测试。该测试将Jalapeno与当时最佳记录进行对比,基准来自英伟达GB200或GB300超级芯片。结果显示,在GPT-OSS 120B、DeepSeek R1和Kimi K2.5 1T三个模型上,Jalapeno每瓦性能是对比系统的1.5至1.9倍,端到端延迟降低了1.7至3.6倍。理查德·霍表示,这意味着该芯片能为用户带来"更快的响应速度、更灵敏的智能体,以及随需求增长而更稳定的访问体验"。

OpenAI计划在今年年底以"小批量"方式部署Jalapeno,并将于2027年开始"扩大规模",但公司未透露明年具体的部署数量。

尽管性能表现亮眼,理查德·霍表示OpenAI并不打算用Jalapeno替换现有全部芯片阵容,强调公司的整体算力战略仍包括英伟达等"优秀合作伙伴"。与此同时,OpenAI将继续推进该新芯片的第二代和第三代研发工作。

Q&A

Q1:Jalapeno芯片是什么类型的芯片,和英伟达芯片有什么区别?

A:Jalapeno是OpenAI与博通公司联合研发的专用集成电路(ASIC),专门为AI推理场景设计。与英伟达GB200/GB300这类通用GPU超级芯片不同,Jalapeno针对推理任务进行了专项优化,在能效比上实现每瓦1.5至1.9倍的性能提升,端到端延迟降低1.7至3.6倍,但OpenAI表示不会用其完全取代英伟达芯片,双方仍是合作关系。

Q2:Jalapeno芯片什么时候可以大规模使用?

A:OpenAI计划在2026年底以小批量方式开始部署Jalapeno芯片,并在2027年逐步扩大规模。目前公司尚未公布2027年的具体部署数量。此外,OpenAI已在推进Jalapeno第二代和第三代芯片的研发工作。

Q3:OpenAI发布Jalapeno芯片对普通用户有什么影响?

A:Jalapeno芯片主要面向AI推理场景,其低延迟和高能效特性意味着用户在使用ChatGPT等OpenAI产品时,有望获得更快的响应速度和更稳定的服务体验,尤其是在高并发使用场景下,访问可靠性也将得到提升。

The Verge