VAST 的 VUA 闪存缓存几乎扩展 GPU 服务器内存以供 AI token 生成

VAST Data 开源其 VUA KVCache 软件，通过在 NVMe SSD 上存储 AI 模型推理过程中生成的令牌，避免重复计算，加快多步生成和对话续接。