OpenAI与Broadcom联合推出专为AI推理打造的定制芯片Jalapeno

OpenAI与博通合作推出定制芯片Jalapeno，专为大语言模型推理任务设计。该芯片在每瓦性能上显著优于现有主流方案，其架构着重减少数据移动以提升效率。推理集群将搭配博通Tomahawk网络交换芯片，并由加拿大公司Ce...

OpenAI与Broadcom联合发布专为大语言模型推理设计的芯片

OpenAI与博通宣布推出名为"Jalapeno"的定制ASIC芯片，专为数据中心大语言模型推理设计。该芯片历时九个月研发，基于OpenAI研究人员的深度反馈及其未来模型路线图打造。OpenAI表示，早期测试显示其每瓦性...