2026-10-21
用NVIDIA CUDA Tile高性能前向传播内核加速Mamba-2
NVIDIA联合Jane Street在cuTile框架上实现Mamba-2序列模型的三个前向传播自定义内核,通过延迟提示、操作数交换及内存布局优化,在NVIDIA Blackwell Ultra GPU上相比Trito...
NVIDIA联合Jane Street在cuTile框架上实现Mamba-2序列模型的三个前向传播自定义内核,通过延迟提示、操作数交换及内存布局优化,在NVIDIA Blackwell Ultra GPU上相比Trito...