跳到正文
原文
Hugging Face Blog(hf-mirror 镜像)·· 3 天前精选AI 评分62

IBM 发布 Granite Switch 4.1:单一端点同时支持对话、决策与语音

Granite Switch 4.1: Chat, Decisions, and Speech from One Endpoint

AI 导读

IBM 发布 Granite Switch 4.1,包含 Granite-Switch-4.1-8B 和 -30B,在基座模型上组合通用决策 aLoRA、Guardian 安全决策 aLoRA 以及 OpenASR 榜单上最快的 ASR 模型 Granite-Speech-5.0-Turbo-CTC,全部能力共用一个托管端点,GPU 显存占用与基座模型单独运行大致相当。

推荐理由

Granite Switch 4.1 把决策适配器与 ASR 模型组合进单一端点,显存占用接近基座模型,可了解多能力复用 KV cache 的部署思路。

来源:Hugging Face Blog(hf-mirror 镜像) · hf-mirror.com