/
AI推理优化 关键字列表
AWS Graviton5驱动EC2 C9g实例，重塑AI时代CPU价值
亚马逊云科技（AWS）正式推出基于Graviton5处理器的EC2 C9g和C9gd实例，面向AI推理、高性能计算及分析等CPU密集型工作负载。相比上一代C8g，C9g每vCPU性能提升25%，并支持DDR5-8800内存、PCIe Gen 6及最新Nitro安全平台。随着AI系统向智能体架构演进，CPU在任务编排、内存管理和调度方面的作用日益凸显，AWS此举旨在将Graviton5定位为AI基础设施中GPU的重要协同角色。
CoreWeave借助Nvidia B300扩展AI云平台，应对推理需求激增
CoreWeave在英伟达GTC大会上发布基于Nvidia HGX B300平台的AI云服务扩展计划。新平台专注于帮助企业快速从模型训练转向生产部署，特别支持下一代智能体AI系统和强化学习工作负载。公司推出集成开发和监控功能，支持高容量推理和实时学习。B300系统提供更高AI推理性能，扩展内存容量，使团队能用更少节点运行大型模型。
白皮书
京公网安备 11010802021500号
