超低延迟技术 关键字列表
d-Matrix推出IO加速器,宣称AI推理延迟将达到全新低点

d-Matrix推出IO加速器,宣称AI推理延迟将达到全新低点

d-Matrix在AI基础设施峰会上发布JetStream IO加速卡,这款定制PCI卡可提供400Gbps带宽和2微秒延迟。该产品基于FPGA技术,可与去年发布的Corsair推理加速平台配合使用,支持在服务器内部和多节点间扩展。CEO表示,随着行业重点从大模型训练转向商业化推理,该产品旨在解决内存计算瓶颈后的IO瓶颈问题。JetStream采用标准以太网协议,可直接部署到现有数据中心。