面壁智能发布端侧多模态大模型 MiniCPM-V 4.7,3GB 内存可跑 13+ token/s
面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,仅 3GB 内存可实现 13+ token/s 解码速度
AI 导读面壁智能于 10 月 13 日推出端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是该系列首个 MoE 模型,基于 LES 推理加速技术,在 iPhone 17 Pro Max 上以仅 3GB 内存实现 13+ token/s 解码速度。
另有 5 家信源报道
- 面壁智能 MiniCPM-V 4.7 开源上线 ModelScope,35B-A3B MoE 多模态模型可在 iPhone 上以 13+ tokens/s 端侧无损推理面壁智能 OpenBMB · 10 月 15 日
- 面壁智能发布 MiniCPM-V 4.7:35B-A3B MoE 多模态模型 3GB 内存即可在手机上运行面壁智能 OpenBMB · 10 月 13 日
- 面壁智能开源 MiniCPM-V 4.7,35B-A3B MoE 模型 3GB 内存端侧流畅运行公众号:面壁智能 · 10 月 13 日
- 面壁智能 MiniCPM V4.7 发布:35B-A3B 端侧 MoE 与 1B 轻量 VLM面壁智能 OpenBMB · 10 月 13 日
- 面壁智能发布开源多模态模型 MiniCPM-V 4.7 系列,含 35B-A3B 与 1B 两个型号面壁智能 OpenBMB · 10 月 13 日
来源:IT之家·人工智能 · ithome.com
事件后续2
查看事件全部- 面壁智能解析前瞻专家调度 LES 如何让 35B MoE 在手机端侧实时无损运行公众号:面壁智能 · 27 天前
- 面壁智能开源 MiniCPM-V 4.7,35B-A3B MoE 模型 3GB 内存端侧流畅运行公众号:面壁智能 · 10 月 13 日