DGX Spark上提升MoE推理性能的三种方法

NVIDIA发文介绍在DGX Spark上优化MoE推理的三项技术：Humming MXFP4 MoE内核替换、在线FP8量化LM Head以及基于NEXTN的多token投机解码。实测显示，三项优化组合后GSM8K解码...