Oracle正在扩大Oracle Cloud Infrastructure平台上可用的AI芯片范围,宣布计划部署谷歌的张量处理单元(TPU),以及来自OpenAI、Cerebras、SambaNova和Positron AI的推理芯片。此举为OCI客户提供了在英伟达GPU之外运行AI工作负载的更多选择。

Oracle于10月27日星期二表示,公司将成为首家在谷歌云之外提供TPU的超大规模云服务商。

这一消息是在拉斯维加斯举行的Oracle AI World大会上宣布的,同时公布的还有Oracle与英伟达合作关系的扩展。Oracle表示,英伟达的Vera Rubin NVL72系统和Vera CPU现已在OCI上全面推出。该公司还表示,计划利用英伟达Vera Rubin NVL72系统将OCI超级集群扩展至多吉瓦规模。

行业分析师表示,Oracle采用这些额外的AI加速器,为客户提供了更大的灵活性,以便将基础设施与特定工作负载需求相匹配。分析师指出,尽管Oracle云此前主要依赖英伟达GPU,但也部署了部分AMD GPU。

Futurum Group研究总监布伦丹·伯克表示:"Oracle一直是使用英伟达系统构建AI工厂的领导者,他们今天的举动表明,他们正朝着行业异构计算的方向靠拢。Oracle正与OpenAI等合作伙伴密切合作,以选择最合适的计算方案,包括使用Cerebras来实现快速推理。"

伯克补充道:"使用替代加速器表明每种芯片都有其独特优势,整体而言为客户提供选择是有价值的。"

Moor Insights & Strategy副总裁兼首席分析师马特·金博尔表示,此次宣布是Oracle云在支持多种AI芯片架构方面的一次积极扩展。

金博尔说:"这是Oracle试图成为开放芯片云——为每个人提供适合的东西。"

伯克指出,Oracle面临的挑战将是证明这些新的AI加速器能够与基于英伟达的产品竞争,并展示对这些芯片的长期投入,而不是将其视为有限的试验。

OCI通过新AI加速器扩展超越英伟达

Oracle表示,用于训练和推理的谷歌TPU将于2027年在OCI上提供,采用过程将历时数年逐步推进。Oracle还表示,将于2027年部署Cerebras晶圆级引擎用于高速AI推理,而Positron AI的Positron Atlas推理芯片现已在OCI上全面推出。

Oracle周二还表示,将部署OpenAI与博通合作开发的Jalapeno推理加速器。OpenAI和博通此前曾表示,预计Jalapeno将于2026年底实现首次部署,但Oracle并未具体说明该芯片何时能在OCI上提供。

SambaNova周二也宣布,正与Oracle合作,在OCI中部署其SN50推理芯片,但新闻稿中并未给出具体的上市日期。SN50是SambaNova第五代可重构数据流单元芯片,专为智能体AI工作负载设计。

SambaNova声称,该芯片的速度比竞争芯片快达五倍,而总拥有成本则低三倍。该公司还表示,SN50每机架平均功耗为20千瓦,这个功耗水平足以在现有的风冷数据中心中进行规模化部署。

谷歌为何将TPU引入Oracle云

伯克表示,谷歌TPU是极具竞争力的处理器,并已展现出显著的代际改进。

借助第八代TPU系列,谷歌推出了两个版本的处理器:用于训练的TPU 8t和用于推理的TPU 8i。在一篇公司博客文章中,谷歌表示两个版本的每瓦性能均提升达两倍。谷歌还表示,TPU 8t的每美元性能提升达2.7倍,而TPU 8i的每美元性能比上一代提升高达80%。

像谷歌和AWS这样的超大规模云服务商已经发现,为自身基础设施和云服务构建定制AI芯片具有战略价值。现在,它们似乎也看到了更广泛商业化这些芯片的机会。

据报道,AWS曾考虑将其Trainium AI芯片出售给第三方数据中心使用。Oracle的公告表明,谷歌也看到了TPU在自家云平台之外的市场机会。

伯克表示,在权衡是将计算能力保留给内部团队使用,还是更广泛地对外提供之后,谷歌似乎已转向对外部署。他将此举部分归因于AI计算市场持续存在的供应紧张状况。

他说:"相比全部用于内部使用,对外提供的价值更高。"

金博尔表示,谷歌决定在OCI上提供TPU,使客户无需将数据迁移到谷歌云即可使用这些芯片。

金博尔说:"这体现了谷歌对其TPU所带来价值的理解,并试图将这种价值带给客户,无论他们的数据存储在何处。Oracle云中有大量的客户数据,并部署了大量AI应用场景,因此将TPU引入数据所在之处,这完全合乎逻辑。"

DataCenterKnowledge