电信运营商正越来越多地将其AI战略建立在开源模型之上——而原因不仅仅是成本问题。

开源模型让电信运营商能够在其最关键的工作负载中信任、控制和定制AI——从自主网络到客户服务。

英伟达最新发布的《电信行业AI现状报告》反映了这一转变,89%的受访者表示开源模型和软件对其公司的AI战略十分重要。

对运营商而言,开源模型的战略价值体现在五个方面:

开源模型以更低成本扩大了对前沿级智能的访问,使运营商能够将闭源模型留给最具价值的工作负载使用。诸如Artificial Analysis Intelligence Index v4.3.2等独立基准测试显示,领先的开源模型在高难度的推理、编程、科学和智能体类工作负载方面正变得愈发具有竞争力。

开源模型支持电信专属定制,开放的权重和训练方案使运营商能够利用自身的网络、客户和行业数据进行微调。

开源模型通过让电信运营商对模型工件和行为拥有更高的可见性和控制力,从而实现可信AI,使模型能够根据法规和业务政策进行评估、调整和治理。

开源模型支持灵活、安全的部署:团队可以调整和优化开源模型的规模,使其能够在公有云、私有基础设施和边缘环境中运行。

开源模型为电信运营商开辟了机会,使其能够通过托管和微调开源模型,为企业和政府客户提供本地化定制的AI服务。

开放基础,为电信运营量身调校

英伟达Nemotron系列开源模型为智能体工作流提供了前沿级的推理性能,同时具备语音应用所需的语音能力,并开放权重、训练数据和训练方案。

软银公司展示了运营商如何以开源模型为基础,开发并持续推进其电信专属AI能力。

“开源模型使软银公司能够站在全球基础模型快速发展的基础之上,同时运用我们多年积累的网络知识和运营专长,”软银公司首席研究员兼软银美国电信高级副总裁拉吉夫·库德利表示。“我们广泛使用开放基础模型,包括英伟达Nemotron模型等,来开发我们的软银大型电信模型,并针对网络运营、设计和整体管理等电信专属应用场景持续推进其能力。”

此外,英伟达还在与合作伙伴协作,帮助将开源模型转化为电信AI的实用构建模块。

英伟达宣布推出拥有300亿参数的Nemotron 3大型电信模型(LTM),该模型由AdaptKey公司基于开源电信数据集进行微调,在电信专属任务上实现了准确性提升。这为运营商提供了一个开放基线模型,能够理解电信行业术语,并在网络配置、客户事件分流等电信运营工作流中进行有效推理。

为帮助运营商利用自身运营数据定制Nemotron 3 LTM及其他开源模型,英伟达发布了完整的训练方案,详细介绍了如何使用英伟达NeMo开放库,针对运营商特定的网络、客户和流程进行开源模型的端到端微调。

将开源模型规模化部署至生产工作流

开源模型是关键的构建模块,但要将自主电信运营安全地推向生产环境,仅靠模型本身是不够的。

对于美国电话电报公司(AT&T)而言,模型选择的价值在于使这种灵活性与其业务优先事项相符合,从而实现运营落地。

“在AT&T,我们认为AI的未来不在于选择单一模型,而在于智能地为每一个工作负载匹配恰当的性能、成本与控制组合,”AT&T首席数据与AI官安迪·马库斯表示。“开源模型对这一策略至关重要,借助英伟达,我们能够以业务所需的规模、可靠性和治理水平,将这种模型选择策略落地到生产环境中。”

运营商需要能够为模型微调准备和保护数据的管道,通过匿名化敏感记录和生成隐私保护的合成数据集来实现。他们还需要一个能将开源模型转化为受治理的自主智能体工作流的平台。

英伟达提供了这样一个端到端平台,由英伟达AI Enterprise软件和英伟达智能体工具包提供支持,涵盖数据管道、开源模型、智能体编排、安全运行时和仿真。

借助在该平台各个层面构建的强大合作伙伴生态系统,电信运营商有了一条清晰的路径,可以将开源模型的优势转化为可投入生产的AI工作流。

打造本地AI创新平台

随着电信运营商建设与国家AI战略相符的AI基础设施,开源模型为其提供了基础,使其能够提供针对本地语言、行业、法规和数据治理要求量身定制的AI服务。

各国运营商可以针对本地语言和行业特定需求微调开源模型,还可以在其可信平台上托管开源模型,供客户直接使用或利用自身数据和应用进行构建。

对于印尼最大的电信运营商之一Indosat Ooredoo Hutchison而言,这意味着通过其Sahabat-AI开源模型系列,打造能够体现该国自身语言和文化的AI。

“对于像印度尼西亚这样的国家而言,开源模型的价值不仅在于获得强大的AI能力,更在于将这种智能适配到我们自身的语言、文化、数据和实际需求中,”Indosat Ooredoo Hutchison首席数据与AI官奇拉格·苏卡迪亚表示。“Sahabat-AI正是这一理念的实践,它以开源模型为基础,构建能够理解印度尼西亚国情的AI,并可用于开发本地化应用。这不仅使我们能够采用AI,还能围绕它建立能力,让更多印尼人能够按照自己的方式利用AI进行创造。”

了解更多关于英伟达电信技术的信息。

Q&A

Q1:电信运营商为什么选择开源模型来构建AI战略?

A:开源模型能让电信运营商以更低成本获得前沿级智能,支持针对网络、客户数据的定制化微调,实现可信AI的治理与控制,并支持在公有云、私有基础设施和边缘环境中灵活部署,同时帮助运营商为企业和政府客户提供本地化AI服务。

Q2:英伟达Nemotron 3大型电信模型(LTM)有什么特点?

A:该模型拥有300亿参数,由AdaptKey基于开源电信数据集微调而成,能够理解电信行业术语,并在网络配置、客户事件分流等电信运营工作流中进行有效推理,为运营商提供了一个开放的定制基线模型。

Q3:印尼的Sahabat-AI项目是做什么的?

A:Sahabat-AI是印尼电信运营商Indosat Ooredoo Hutchison基于开源模型打造的AI系列,旨在构建能够理解印尼本地语言和文化的AI,帮助更多印尼人按照自己的方式使用AI进行创造和开发本地化应用。

NVIDIA