2026-10-29
Kubernetes内存强制GPU共享:基于NVIDIA CUDA 13.4实现
NVIDIA CUDA 13.4新增时间共享模式下的内存边界执行能力,并配套开源Kubernetes算子gpu-fractioning,支持为每个容器设置GPU内存请求与上限,以及时间切片或SM共享两种计算模式,KAI ...
NVIDIA CUDA 13.4新增时间共享模式下的内存边界执行能力,并配套开源Kubernetes算子gpu-fractioning,支持为每个容器设置GPU内存请求与上限,以及时间切片或SM共享两种计算模式,KAI ...
NVIDIA宣布将Run:ai平台完整开源,纳入NVIDIA DSX AI Factory平台体系。开源内容包括KAI Scheduler、GPU Fractioning Operator、KAI Resource Ma...
NVIDIA开源工具Topograph通过发现集群网络拓扑并将其转化为Kubernetes标签、Slurm配置或Slinky ConfigMap,使调度器能够实现拓扑感知的工作负载放置,避免跨域通信瓶颈,提升AI工厂GP...
本文介绍如何使用KAI Scheduler和vCluster两款开源工具,在单一物理GPU上为多个团队提供隔离的Kubernetes控制平面。方案通过单一控制平面集群管理GPU资源池,结合按团队配额的GPU共享机制,为每...