量子位· 十三·· 5 天前精选AI 评分78
面壁开源 MiniCPM-V 4.7:35B MoE 断网在 iPhone 上跑,仅占 3G 内存
iPhone断网跑35B多模态!国产开源新模型,只占3G内存
AI 导读
面壁智能与 OpenBMB 开源 MiniCPM-V 4.7,含 35B-A3B 和 1B 两个版本,前者是 MiniCPM-V 系列首个 MoE 模型,约 3G 内存即可在 iOS、安卓设备上流畅运行,解码速度每秒 13 个 token 以上。
推荐理由
面壁开源 MiniCPM-V 4.7,35B-A3B 的 MoE 在 iPhone 上断网运行仅占约 3G 内存,可看端侧多模态的落地边界。
来源:量子位 · qbitai.com