AMD发布Instinct MI350P PCIe加速卡,专为企业现有数据中心基础设施设计。该卡为双槽标准PCIe形态,支持风冷服务器,无需额外改造即可部署AI推理任务。MI350P配备144GB HBM3E显存,带宽高达4TB/s,峰值性能达4600 TFLOPS(MXFP4精度),是目前企业级PCIe卡中性能最高的产品之一。单卡可处理约2000至2500亿参数的大语言模型,支持最多8卡配置,适用于SLM/LLM推理及RAG流水线场景。
Cato Networks发布两项SASE平台新功能:Cato Neural Edge在全球85+节点部署英伟达GPU,实现实时流量检测、威胁识别和策略执行;Cato AI Security提供AI治理和运行时保护能力。该解决方案旨在帮助企业在保护AI工具的同时,利用AI技术防御复杂威胁,通过统一控制平面管理,降低运营复杂性并确保一致的安全策略执行。
在AWS re:Invent大会上,NVIDIA与亚马逊云科技宣布扩大战略合作,涵盖互联技术、云基础设施、开放模型和物理AI等领域。AWS将支持NVIDIA NVLink Fusion平台,整合其定制芯片包括Trainium4推理芯片、Graviton CPU和Nitro系统。双方还推出AWS AI工厂服务,提供专用AI基础设施。此外,NVIDIA Nemotron开放模型已集成Amazon Bedrock,Cosmos世界基础模型通过NIM微服务在Amazon EKS上提供,支持机器人仿真和训练应用。
目前英伟达营收主要来自硬件销售,但当AI泡沫破裂时,这家GPU巨头将转型为全球最重要的软件公司。自2007年推出CUDA以来,英伟达已构建数百个软件库和框架,覆盖计算流体动力学、药物发现、量子计算等领域。当GPU价格下跌时,任何能利用这些闲置资产的企业都将获利丰厚。英伟达正从面向开发者的底层软件库转向企业微服务,降低采用门槛,并通过收购扩展软件能力。
英伟达SCADA技术是一种新型存储数据IO方案,GPU可直接启动和控制存储IO操作。与现有GPUDirect协议不同,SCADA不仅接管数据路径,还控制IO控制路径。该技术特别适用于AI推理工作负载中小于4KB的小块数据传输,能显著提升处理速度。英伟达正与Marvell、美光等存储生态合作伙伴开发SCADA兼容的SSD和控制器产品。
Pure Storage发布Data Stream,这是一个以GPU为中心的AI数据管道集成硬件软件堆栈。该解决方案运行在FlashBlade//S和英伟达Blackwell GPU硬件上,可自动化加速企业AI管道的数据摄取、转换和优化。Data Stream具备自动化实时数据摄取、英伟达NeMo集成、GPU优化管道加速等功能,支持多协议访问,可处理数十亿文件,通过在存储层执行并行转换大幅降低推理延迟,为企业AI应用提供即时访问优化数据的能力。
英伟达推出售价3000-4000美元的DGX Spark,号称"全球最小AI超算"。该设备搭载128GB内存,基于Blackwell架构的GB10芯片,虽然速度不及RTX 5090,但能运行消费级显卡无法处理的大模型。支持2000亿参数模型推理和700亿参数模型微调,在AI开发领域具有独特优势,但软件生态仍需完善。
OpenSearch 3.0发布,性能提升9.5倍,新增GPU加速向量搜索、生成式AI等功能,并优化数据传输和索引构建,助力AI应用发展。
VAST Data 开源其 VUA KVCache 软件,通过在 NVMe SSD 上存储 AI 模型推理过程中生成的令牌,避免重复计算,加快多步生成和对话续接。
Supermicro 执行长暨总裁 Charles Liang 表示:“我们的全新 2U 2 节点多 GPU 服务器是适用于视频直播、高阶云端游戏和无数社交网络应用的理想平台。