返回精选
面壁智能 OpenBMBOpenBMB2026-10-21 21:0026 天前

面壁智能解析 LES 推理技术:让 MiniCPM-V 4.7 在 iPhone 上跑出 20.51 tokens/s

📱 A 35B MoE model running on a phone at over 20 tokens/s.

AI 导读

面壁智能(OpenBMB)介绍 MiniCPM-V 4.7 端侧高效推理背后的 LES(Lookahead Expert Scheduling)技术,解决 35B 总参数、每 token 激活 3B 的 MoE 模型在有限设备内存下专家权重加载等待的问题。

来源:面壁智能 OpenBMB · x.com

事件后续2

查看事件全部

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。