苹果正在让一个企业IT领域的老问题重新变得重要：什么时候自建基础设施比付费给他人运行更划算？
本周，苹果开始销售最新款Mac mini和Mac Studio，其高端配置瞄准了高要求的AI工作负载和企业客户。苹果曾展示过四台Mac Studio联合运行一个万亿参数模型，并将这些设备宣传为企业本地处理日益复杂AI工作负载的方式，从而避免持续向云服务商支付推理费用。部分配置的单机价格接近2万美元。
这一宣传的影响可能远超苹果在企业PC市场中相对较小的份额。据路透社报道，援引IDC分析师Linn Huang的数据，苹果在企业桌面市场的份额约为4.6%，而Windows占比高达91.3%。随着AI逐渐融入更多业务流程，反复运行这些工作负载的成本正成为一项更加显著的基础设施决策。
Freeman Clarke兼职高管咨询公司的兼职CIO西蒙·拉特克利夫表示："过去十年，CIO们一直在问'既然可以租用，为什么要自己拥有这些基础设施？'而AI带来了一个截然不同的问题：'既然我可以拥有执行运算的机器，为什么还要为同样的计算反复支付租金数百万次？'"
不过，答案很大程度上取决于企业究竟要运行什么样的负载。
AI采纳知识产权与数据公司Neurocollective的创始人兼首席执行官丽莎·帕尔默表示："我不会制定一个'苹果战略'，而是会制定一个'工作负载战略'。"
一个运行AI的新场所
对于实验性场景、需求不可预测以及需要使用最大规模可用模型的工作负载而言，公共云AI仍具有强大的经济优势。但对于需要成千上万甚至数百万次重复执行相同推理任务的企业来说，情况可能大不相同。
拉特克利夫指出，对于持续且可预测的工作负载，自有基础设施会变得更具吸引力。企业可以将初期硬件投入分摊到大量请求中，同时对敏感数据的处理位置拥有更多控制权，并有可能降低延迟。
AI心理健康护理公司Tranquilla AI的未来学家兼IT咨询公司TreeHive Strategy的负责人唐纳德·法默表示，他认为苹果新款Mac这类设备最适合特定的应用场景：作为潜在的私有边缘节点，用于智能体编程、本地检索增强生成以及自动化批处理等工作负载。
这可能为CIO们在AI基础设施堆栈中增添一个新层级。常规或敏感的工作负载可以在靠近用户或数据的地方运行，而需要前沿模型或大量突发算力的请求则可以转移到云服务。
这种区分并不一定是用一种环境取代另一种环境，而是要决定哪些工作负载值得配备专属算力。
帕尔默将这一决策比作生活中各领域通用的标准"租还是买"计算："偶尔使用的就租，每天大量使用的就买。"她建议道。
Token账单并非全部账单
一旦把AI的全部成本纳入考量，这一计算就变得更加复杂。虽然AI硬件的成本经常被直接拿来与AI Token的成本相比较，但真实的财务构成在等式两端都包含多个因素。
拉特克利夫表示，CIO们应当将云推理成本与自有基础设施在其整个使用寿命内的成本进行比较，后者包括采购、使用、电力、支持、软件、模型管理以及最终的更换成本。
当然，在公共云基础设施上运行智能体AI的成本，最终账单也同样复杂。会计与专业服务公司安永近期针对智能体AI的研究发现，一旦将基础设施、软件、治理、组织变革、预期故障和监管合规成本都计算在内，智能体AI的全部成本可能大约是Token成本的三倍。
这一点对于本地部署与云端部署的决策至关重要，因为取消一项使用费用并不等于消除了运行AI的底层成本。
帕尔默表示："本地AI并非因为Token费用消失就变得免费，你仍然必须购买、保护、维护和更换硬件。"
这也改变了CIO和CFO看待AI支出的方式。云推理产生的是随使用量增长的可变运营支出，而自有算力需要前期资本投入，随后是持续维持该产能生产力的运营成本。在多年将技术支出从资本支出转向运营支出之后，AI可能会将部分基础设施支出重新推回资本支出的方向。
利用率难题
对于任何被AI硬件前景所吸引的人来说，有一点需要考虑：企业也将拥有闲置产能。
云计算使得应对需求峰值变得相对容易，而无需保有足够应对峰值的基础设施。在企业仍在摸索如何以及在何处试点AI项目的阶段，这一点尤其有用。相反，购买AI硬件的企业则必须在这些峰值之间找到足够的工作来填满这些产能。
拉特克利夫说："最大的风险是买了一台极其昂贵的AI摆设。"
这使得利用率成为商业案例中最重要的变量之一。每天处理大量推理任务的系统可以将资本成本分摊到数百万次请求中；帕尔默举例说，一家全天处理敏感文件的银行可能就是这样一个潜在应用场景。
法默对此表示认同："'转向本地部署'的决策取决于持续的高容量利用率，因为稳定的工作负载能够达到一个盈亏平衡点，从而降低每百万Token的长期成本。"
多位专家还提到了淘汰过时的问题，这对所有硬件投资都适用，但在AI领域尤为突出；硬件和模型的迭代速度很快，使得传统的多年基础设施生命周期假设更难成立。
由此产生的是一种不同类型的基础设施权衡。云计算降低了拥有过剩产能的风险，但让企业持续暴露在使用成本和服务商定价的影响之下。自有基础设施提供了更可预测的产能和可能更低的边际成本，但将利用率、维护和更换风险转移回了IT部门自身。
基础设施或许需要自我路由
在这种权衡中前行，可能会让大多数企业走向一种混合架构——即AI在何处运行的问题，将根据每个工作负载逐一决定。企业可以将本地或私有基础设施用于高容量和敏感的工作负载，同时将需要前沿模型、专业能力或额外产能的请求发送至公共云服务。
法默表示，这甚至可以实现自动化。一个智能路由层可以根据请求的需求、敏感度和可用产能，来判断该请求应该在本地运行还是转移至云端模型。
法默说："我预计CIO们会优先构建这类智能路由层，以动态管理将提示词分派给本地或云端模型。"
拉特克利夫也从类似的实用角度看待这一转变。
他说："那些能把经济账算对的组织，会把AI算力当作一种需要路由分配的资源，而不是一个固定的去处。"
这最终可能将AI基础设施转变为一个由自有和租用产能组成的组合：在利用率和控制权足以证明投资合理的地方使用本地系统，在企业需要更大产能或隔离性的地方使用私有基础设施，而在灵活性和获取前沿模型更为重要的地方使用云服务。
帕尔默表示，她预计AI预算也将朝着类似的方向演变，并将其比作一个能源投资组合——部分产能自有，部分通过合同获取，部分按需购买。
对于CIO而言，能力日益增强的本地AI硬件正在将算力决策变成一种投资组合决策。有些工作负载可以在企业自有的基础设施上运行，有些可以转移到私有系统或云服务，而智能路由可以判断每个请求应归属何处。基础设施战略的核心，将是管理好这种组合——并确保每个工作负载都能在符合其经济效益的地方运行。
Q&A
Q1：苹果新款Mac Studio能用来运行AI大模型吗？
A：可以，苹果曾展示过四台Mac Studio联合运行一个万亿参数模型，高端配置面向企业级AI工作负载设计，部分配置售价接近2万美元。
Q2：企业自建AI基础设施比用云服务便宜吗？
A：这取决于工作负载类型。对于高容量、稳定且可预测的工作负载，自有基础设施可能更划算；但如果利用率不足，可能会买到闲置浪费的昂贵设备，因此需要根据具体使用场景计算。
Q3：企业该如何选择本地AI硬件和云端AI服务？
A：专家建议采用混合架构，根据工作负载逐一决策：高容量和敏感数据处理适合本地或私有基础设施，而需要前沿模型或突发算力的请求适合使用公共云服务，未来还可能通过智能路由层自动分配。
