跳到正文
原文
Hugging Face Blog(hf-mirror 镜像)·· 2026-09-10精选AI 评分62

用 LoRA 和 Storage Bucket 在 HF Jobs 上跑异步 GRPO,500 步从 3 小时 27 分降到 53 分钟

Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL

AI 导读

TRL v1.14 的 AsyncGRPOTrainer 支持只训练并同步 LoRA 适配器到 vLLM,rank-1 适配器只有几 MB,可经每个 Job 挂载的 Storage Bucket 传递,无需 NCCL。

推荐理由

在 HF Jobs 上把异步 GRPO 训练与 vLLM 推理拆到不同机器,用 LoRA 适配器和 Storage Bucket 替代 NCCL,500 步从 3 小时 27 分压到 53 分钟。

来源:Hugging Face Blog(hf-mirror 镜像) · hf-mirror.com