AI推理 关键字列表
GridGain技术助力AI推理,分布式内存架构释放计算潜能

GridGain技术助力AI推理,分布式内存架构释放计算潜能

GridGain软件通过集群服务器实现内存共享,使内存密集型应用能在单独内存不足的服务器上运行。该技术在AI推理领域日益重要,因为所需令牌数量不断增长。软件提供跨x86服务器集群的分布式内存空间,具备大规模并行架构。GridGain声称其引擎可用于任何数据驱动的分析或事件处理项目,提供超低延迟的分布式多模型数据存储和计算引擎,实时为AI推理引擎提供企业数据。

HPE Aruba推出适用于零售的网络产品组合 捆绑安全的私有5g和Wi-Fi

HPE Aruba推出适用于零售的网络产品组合 捆绑安全的私有5g和Wi-Fi

网络巨头HPE Aruba推出了适用于零售的网络产品组合,其中包括最现代的连接技术例如Wi-Fi 7、私有5G和边缘计算。该产品组合可以将接入点、全新的蜂窝桥、紧凑型交换机与HPE旗舰网络管理和AI平台HPE Aruba Networking Central捆绑在一起。

深度丨AI芯片主战场:从训练转向推理?

深度丨AI芯片主战场:从训练转向推理?

AI推理领域的重要性日益凸显,市场重心从AI训练转向推理。Groq LPU推理卡解决了性能和成本问题,使AI推理大规模部署成为可能

窥见未来:英伟达AI推理的前进之路

窥见未来:英伟达AI推理的前进之路

在英伟达,负责引导研究朝着应用、而非纯学术项目前进的,是斯坦福大学计算机科学与电气工程兼职教授,公司首席科学家、高级研究副总裁以及GPU、网络与CPU芯片设计师Bill Dally。

探索AI技术解决方案,NVIDIA X阿里云TensorRT模型优化赛初赛启动!

深度学习深刻改变了计算机应用程序的功能与形态,为了加速深度学习模型的推理,NVIDIA 英伟达推出了高性能深度学习推理优化器TensorRT。