/
大语言模型推理优化 关键字列表
英伟达力推"每Token成本"作为AI数据中心核心评估指标
英伟达在博客中提出，随着生成式AI推理负载的增长，传统的每美元FLOPS等计算指标已无法反映AI系统的商业价值。公司主张以"每Token成本"作为衡量数据中心总拥有成本的新标准，并通过Blackwell与Hopper架构的对比数据加以支撑。分析师指出，该指标在超大规模场景下具备参考价值，但对企业IT而言仍过于片面，未来评估体系将融合成本与性能多维指标。
白皮书
京公网安备 11010802021500号
