大语言模型正在快速进化。短短几年间,它们从驱动被动式聊天机器人,演变为能够推理问题、制定计划、执行任务并在必要时自我纠错的自主智能体。
IBM近日发布了最新的Granite 4.2语言模型,提供3B、8B和30B三种参数规格。Granite 4.2专为当今企业级应用所需的智能体工作流而设计,内置"思考"能力,具备原生的逐步推理功能,能在行动前进行规划,在决策前权衡利弊,并在错误发生前及时发现。
在企业工作流中,任务往往模糊且步骤繁多。AI模型必须能够遵循复杂指令、检索正确信息、选择合适工具、按正确顺序执行,并验证结果。推理能力帮助Granite 4.2更可靠地完成这一过程。
Granite 4.2出色的工具调用与推理能力,使其能够评估应使用哪些应用程序及其调用顺序,而非盲目执行。基于Granite 4.2构建的软件工程智能体可以浏览代码库、处理多步骤开发任务,并在终端环境中无缝运行。
Granite 4.2支持云端、本地及边缘环境部署。其密集架构兼容性广泛,多种规格为团队提供了灵活性:小型模型可高效处理高吞吐量的智能体任务,大型模型则适用于更深度的推理和复杂的编码工作流。由于Granite 4.2采用Apache 2.0许可证发布,企业可自由下载、微调并投入生产,无需担忧授权限制。
这些智能体能力并非单纯依靠模型规模实现。Granite团队重新设计了训练流程,以更好地应对现实任务。在Granite 4.0基础模型之上,IBM研究团队引入了扩展的多阶段强化学习方案,以深化模型能力。
训练从监督微调开始,逐步推进多个强化学习阶段。第一阶段"基础强化学习"应用于所有Granite 4.2模型,强化了数学、科学、编程、推理和工具调用能力,将可验证奖励与基于奖励模型的评估相结合,帮助模型同时学习准确性和更高层次的质量信号。
对于8B和30B模型,训练进一步延伸至专项"智能体强化学习"阶段,聚焦于企业级任务,包括软件工程、基于终端的编程和搜索驱动的工作流。结合基于人类反馈的强化学习对齐,这一方案使模型更好地胜任复杂、多步骤的智能体工作。
Granite 4.2的编码与推理改进还得益于另外两项创新:模型基于IBM的CodeAlchemy流水线生成的1万亿Token合成代码进行训练,同时引入了一个名为"中间训练"的中期训练步骤,已被证明能够释放更强的推理能力。此外,模型还加入了推测解码层,在服务更多用户的同时实现更快的文本输出,既提升了用户体验,也帮助企业降低了运营成本。该团队还与Hirundo合作,利用机器遗忘技术,在无需完全重新训练的情况下,针对性地减少训练后模型的不良输出,以提升模型的鲁棒性。
作为本次发布的组成部分,IBM同步推出了两款新语音模型:Granite Speech 5.0 Turbo CTC和5.0 Turbo CTC NC。这两款模型在架构上实现了跨越式升级,参数量仅为4.7亿,是Granite家族中最小的模型之一,非常适合在笔记本电脑、智能手机及其他边缘设备上部署。
CTC(联结主义时序分类)技术帮助语音模型高效地将音频映射为文本,直接从原始音频和文本中学习,使模型在流式音频处理上表现出色,能够快速完成音频转录。与之前的Granite语音模型不同,新模型不依赖大语言模型骨干网络,在保持极小体积的同时,仍能高效完成自动语音识别任务。
目前Hugging Face开放ASR排行榜上的速度领先者处理吞吐量约为6000 RTFx,而测试中Granite Speech 5.0 Turbo CTC在单张H100 GPU上的得分接近12600。这款语音模型专为高吞吐量转录工作负载而优化,可在一秒内转录三小时的语音录音,轻量到足以让用户在笔记本上实时转录视频通话或开发语音应用。另一项重要应用场景是大规模分析呼叫中心数据所需的高量转录任务。团队同时发布了基于限制性使用数据训练的非商业版本。
这批最新模型的问世,标志着Granite家族又向前迈进了一步——帮助企业构建能够推理、行动并在真实工作流中自适应的智能体。用户可从Hugging Face、Ollama和GitHub等主流模型仓库下载最新Granite模型。
Q&A
Q1:Granite 4.2语言模型有哪些参数规格,分别适合什么场景?
A:Granite 4.2提供3B、8B和30B三种参数规格。小型模型适合高吞吐量的智能体任务,效率更高;大型模型则适用于需要深度推理和复杂编码的工作流。企业可根据实际需求灵活选择,较小的模型也能在边缘设备或资源受限环境中高效运行。
Q2:Granite Speech 5.0 Turbo CTC的语音转录速度有多快?
A:Granite Speech 5.0 Turbo CTC在单张H100 GPU上的处理吞吐量约为12600 RTFx,远超Hugging Face开放ASR排行榜当前领先者的约6000 RTFx。实际表现上,该模型可在一秒内转录三小时的语音录音,适合实时视频通话转录、笔记本本地语音开发以及大规模呼叫中心数据分析等场景。
Q3:Granite 4.2采用什么许可证,企业使用有哪些限制?
A:Granite 4.2采用Apache 2.0开源许可证发布,企业可以自由下载、二次开发(微调)并将其部署到生产环境,无需支付授权费用,也没有额外的商业限制。这使得各类规模的企业都能以较低成本将模型集成到自有系统中。
