企业在面对不断上升的AI成本时,还需要避免供应商锁定,而日益复杂的基础设施层则带来了额外挑战。

厂商们开始意识到企业在管理AI基础设施方面所面临的困境。上周,博通推出了VMware Private AI Cloud及其软件定义基础平台VMware AI Factory。该基础平台可自动完成基础设施部署相关能力,包括硬件资源配置、端到端生命周期管理以及软件栈的启用。

博通表示,通过整合硬件与软件运营,企业能够降低运营复杂性,同时快速扩展AI工作负载。Moor Insights & Strategy首席数据中心分析师马特·金博尔(Matt Kimball)表示,VMware AI Factory和Private AI Cloud是博通"首次全面响应"企业客户AI转型需求的举措。

金博尔在给CIO Dive的邮件中说,随着环境规模不断扩大且治理难度日益增加,即便是最优秀的系统管理员也会感到力不从心。

金博尔表示:"这不是能力问题。这是与GPU、内存分层和性能调优相关的所有新需求所带来的复杂性问题,尤其是随着AI正在成为一种具有独特需求的新型工作负载。"

博通最新平台发布的工具正在逐步成熟,这将有助于企业解决基础设施复杂性问题,这也是AI应用落地的一个关键阻力点。

金博尔说:"VMware交付的成果是一个不错的开局,但我预计VCF——即VMware AI Factory和Private AI Cloud——将迅速演变为那种自主式AI控制平面。"

Futurum Group数据智能、分析与基础设施业务副总裁兼负责人布拉德·希门(Brad Shimmin)向CIO Dive表示,AI工厂这一概念主要由英伟达主导,其重点在于提供集中式、集成化技术栈的优势,让企业获得AI带来的所有性能收益。他说,同时这些方案还能在不增加复杂性和技术债务的情况下,为企业提供更多选择空间。

希门说:"这一直是、并将继续是一个多云、多供应商、多模态的环境。企业目前正在构建的AI技术栈中的每一层,都在利用前沿模型厂商和承载并基于这些模型进行构建的云服务商所带来的这条持续演进的创新传送带。"

他还补充说,VMware AI Factory对博通而言是"一次出色的举措",博通一直以简化基础设施的能力著称。

为简化VMware AI Factory的部署流程,博通宣布与MetalSoft合作,将裸金属资源配置所需的时间从数周缩短至数分钟。该公司表示,IT高管将能够直接通过VMware Cloud Foundation管理控制台,为来自多个供应商的物理服务器进行资源配置,"将软件和硬件的生命周期统一为单一的运营模式"。

VMware AI Factory还为企业提供了在本地环境运行领先AI模型的途径。博通在8月31日的活动中宣布,包括谷歌、英伟达和阿里云等提供商的前沿AI模型已通过验证,可在VMware Cloud Foundation上运行,该平台可通过Private AI Cloud访问。VCF客户可以使用超过150个开源和商业模型。

博通VMware Cloud Foundation部门首席产品官保罗·特纳(Paul Turner)在公告中表示,VMware AI Factory使企业能够同时选择偏好的硬件和经过审核的模型,从而更好地掌控更广泛意义上的AI Token经济。

金博尔表示,博通通过自动化基础设施能力来抽象化底层硬件复杂性的这一举措,也在很大程度上解决了技能缺口问题,但并未完全解决这一问题。

金博尔说:"这是一个很好的第一步,但终究只是第一步。"

Q&A

Q1:VMware AI Factory是什么?

A:VMware AI Factory是博通推出的软件定义基础平台,能够自动完成基础设施部署相关能力,包括硬件资源配置、端到端生命周期管理以及软件栈的启用,帮助企业降低运营复杂性并快速扩展AI工作负载。

Q2:VMware AI Factory支持哪些AI模型?

A:博通宣布包括谷歌、英伟达和阿里云等提供商的前沿AI模型已通过验证,可在VMware Cloud Foundation上运行。VCF客户可以使用超过150个开源和商业模型。

Q3:博通与MetalSoft合作能带来什么好处?

A:博通与MetalSoft合作是为了简化VMware AI Factory的部署流程,将裸金属资源配置所需的时间从数周缩短至数分钟,IT高管可直接通过管理控制台为多个供应商的物理服务器进行资源配置。

CIO DIVE