企业推理场景需要多样化AI加速器

HPC和AI基础设施先驱David Driggers指出，企业推理场景不存在"一刀切"的加速器方案。随着混合专家模型和多模态推理的发展，不同加速器在处理音频、视频、文本等任务时各有优势。企业需根据超低延迟、能效、单tok...