至顶AI实验室在搭载AMD锐龙AI Max+ PRO 495、配备192GB统一内存的极摩客EVO-X5 Pro上,运行了Q4量化的DeepSeek V4-Flash 284B。开启草稿模型后,生成速度由约17提升至26 tokens/s,增幅约53%。对于需要本地部署大模型的企业与开发者,大内存已经能同时容纳主模型和加速组件。

至顶AI实验室硬核评测:网友点名要看!AMD锐龙AI Max+ 495本地跑DeepSeek V4-Flash实测来了

本次测试还运行了Qwen3.8 Flash Next 125B,搭配MTP草稿模型后,平均生成速度达到34 tokens/s。两款模型的首token延迟约为0.4—0.5秒,分别展示了这台主机在模型容量、响应速度和持续输出方面的表现。

评测机构:至顶AI实验室

测评时间:2026年10月10日

评测产品:极摩客 EVO-X5 Pro

主要参数:AMD锐龙AI Max+ PRO 495,192GB统一内存

测试模型:DeepSeek V4-Flash 284B Q4、Qwen3.8 Flash Next 125B Q4

192GB统一内存,给主模型与草稿模型留下共同运行的空间

这次测试来自一条读者留言。在AMD锐龙AI Max+ PRO 495的国内展示活动之后,有人希望看到它运行DeepSeek V4-Flash的效果。拿到极摩客EVO-X5 Pro后,我们首先验证了这个需求。

测试机配备192GB统一内存。面对284B这样的模型规模,容量首先决定了部署是否能够进行。本次DeepSeek V4-Flash Q4配置启动时,GPU占用读数约129GB,加入草稿模型后,记录占用约140GB。

这也让大内存的作用更加具体。它既要承载主模型,还要为上下文缓存、推理框架、草稿模型和操作系统预留资源。多出的容量,可以继续用于优化推理流程。

项目
本次配置
主机
极摩客EVO-X5 Pro
处理器
AMD锐龙AI Max+ PRO 495
统一内存
192GB
推理框架
llama.cpp
DeepSeek配置
V4-Flash 284B,Q4量化,可搭配DSpark草稿模型
Qwen配置
Qwen3.8 Flash Next 125B,Q4量化,搭配MTP草稿模型
性能模式
提供静音、均衡、性能三种模式,实际测试档位未注明

配置依据本次字幕记录。

机身还提供多个USB Type-C、USB接口、HDMI、前后3.5毫米音频接口,以及字幕介绍的双万兆网络接口。对于固定放置、通过局域网使用的本地AI设备,这些接口提供了连接外设和网络的基础。

本次测试集中在大模型推理,网络吞吐、不同性能模式和散热表现还需要单独验证。

用相同提示词,观察加载、首字与持续生成速度

本次采用llama.cpp,提前下载模型文件,再分别测试DeepSeek V4-Flash、DeepSeek搭配DSpark,以及Qwen3.8 Flash Next搭配MTP三套配置。

三次测试使用相同提示词,要求模型输出《滕王阁序》全文。较长的输出便于观察持续生成过程,也能减少仅凭开头几秒判断速度带来的偏差。

我们主要记录加载时间、首token延迟与生成速度。加载时间影响启动或切换模型时的等待,首token延迟反映提交请求后多快开始输出,生成速度则影响完整内容需要多久才能得到。

其中最有价值的一组对照,是DeepSeek开启草稿模型前后的变化。主模型保持一致,能够直接观察加入加速组件后的速度和资源占用变化。

此次属于开箱上手记录。操作系统、驱动、llama.cpp版本、上下文长度、采样参数及重复测试轮次尚未列出,结果应结合本次输入与配置理解。

DeepSeek V4-Flash 284B加载59秒,基础速度约17 tokens/s

先运行的是Q4量化的DeepSeek V4-Flash 284B。模型加载过程中,GPU占用读数达到约129GB,约59秒后完成启动。

输入提示词后,首token延迟约0.4秒,持续生成速度约17 tokens/s。这意味着,284B模型已经能够在这台主机上完成本地交互,并在开始回答后持续输出较长内容。

17 tokens/s也给使用体验划出了边界。对于短问答,用户可以较快看到开头。对于长文生成,持续输出速度仍会形成等待,需要将任务长度纳入工作安排。

本次要求输出《滕王阁序》,主要用于观察响应和生成过程。内部文档理解、代码生成、知识库问答等实际工作,还需要使用对应材料继续验证准确率和完成质量。

这组基础结果为后面的加速测试提供了参照。接下来需要回答的是,192GB内存能否支持额外组件,并把生成速度进一步提高。

增加约11GB占用,DSpark让生成速度提升约53%

加入DSpark草稿模型后,记录占用从约129GB上升至约140GB,增加约11GB。使用相同提示词再次运行,DeepSeek生成速度提高至约26 tokens/s,首token延迟仍约0.4秒。

按记录中的17与26 tokens/s计算,生成速度提升约53%。由于原始速度为近似值,这个百分比同样属于近似换算。

DeepSeek配置
记录占用
首token延迟
生成速度
Q4主模型
约129GB
约0.4秒
约17 tokens/s
Q4主模型+DSpark
约140GB
约0.4秒
约26 tokens/s
变化
增加约11GB
基本持平
提升约53%

占用沿用字幕监控口径,后续复现需进一步统一GPU占用与整机内存的统计方式。

草稿模型采用投机解码思路。先由较小的模型快速提出多个候选token,再由主模型验证并接受符合条件的内容,其他部分由主模型继续处理。

这样可以让一次验证覆盖多个候选token,在条件合适时减少逐个生成带来的开销。收益取决于候选内容的接受情况,以及草稿计算和验证本身的成本。

本次对照说明,这套配置获得了明确的持续输出收益。首token延迟基本持平,主要变化发生在开始回答之后。对于输出内容较长的任务,提速会更容易体现。

标准无损投机解码通过主模型验证和相应接受机制保持目标采样分布。具体实现与参数仍需结合所用版本核对,任务输出质量也需要另外评估。

Qwen 125B平均34 tokens/s,最终平均值比瞬时观感更重要

第二款主模型是Q4量化的Qwen3.8 Flash Next 125B,搭配MTP草稿模型。该配置加载耗时1分09秒,首token延迟约0.5秒,最终平均生成速度为34 tokens/s。

演示过程中,部分时段的输出速度观感接近40 tokens/s。最终记录采用完整输出的平均值34 tokens/s,更适合用于比较整体等待时间。

测试配置
加载耗时
首token延迟
生成速度
DeepSeek V4-Flash 284B Q4
约59秒
约0.4秒
约17 tokens/s
DeepSeek V4-Flash 284B Q4+DSpark
字幕未提供
约0.4秒
约26 tokens/s
Qwen3.8 Flash Next 125B Q4+MTP
69秒
约0.5秒
平均34 tokens/s

数据依据本次字幕,三套配置使用相同提示词。

DeepSeek搭配DSpark达到约26 tokens/s,Qwen搭配MTP达到平均34 tokens/s,两套方案均在约半秒内开始输出。对于本地助手原型和单次交互,这些数据提供了直接的体验参考。

两款模型的规模、架构和草稿机制存在差异,最终选型还要加入任务质量。模型能否正确处理企业文档、完成代码修改或遵守业务规则,都会影响实际价值。

从装下大模型到优化输出速度,192GB配置适合哪些用户?

此次测试体现了大容量统一内存的两层用途。首先,它让284B Q4模型能够加载并运行。其次,它还能容纳草稿组件,将DeepSeek的持续生成速度从约17提升至26 tokens/s。

对于需要本地处理内部资料的团队,这提供了部署大模型的基础。开发者也可以在同一台设备上尝试不同模型与解码配置,检查速度、资源占用和应用接口表现。

实际接入知识库或Agent后,系统还会增加检索、工具调用、长上下文和多会话负载。本次单请求输出记录,能够作为后续容量测试的起点。并发能力、长文档处理和持续运行稳定性,需要进一步验证。

成本方面,字幕没有给出整机售价、实际功耗、云端对照费用与长期任务量,暂时无法计算单位推理成本和回本周期。192GB配置是否值得投入,应结合模型需求、调用频率与运维投入核算。

至顶AI实验室此次实测表明,极摩客EVO-X5 Pro能够承载DeepSeek V4-Flash 284B Q4本地推理,加入DSpark后生成速度提升约53%,Qwen 125B搭配MTP达到平均34 tokens/s。它适合需要大容量本地模型、愿意进行部署优化的企业与开发者。高并发服务、长期满载和成本收益,仍需更完整的业务测试支撑。

END
本文来自至顶AI实验室,一个专注于对AI计算机、工作站及各类AI相关硬件设备,开展基于真实使用场景评测的研究机构。
至顶网至顶AI实验室频道