Hugging Face Blog(hf-mirror 镜像)·· 7 天前精选AI 评分67
Ai2 如何用 GPU 时间预算和分层公平调度改造集群调度器
Impactful scheduling for GPU clusters
AI 导读
Ai2 的 AI 基础设施团队把基于优先级的调度器换成由 GPU 时间预算、分层公平分配和时间切片契约组成的系统,管理 88 到 1024 卡规模的 NVIDIA H100、B200、B300 集群。
推荐理由
Ai2 用 GPU 时间预算和分层公平调度替换优先级调度,讲清了排队、抢占和 on-call 工单如何变化。
来源:Hugging Face Blog(hf-mirror 镜像) · hf-mirror.com