蚂蚁百灵 Ling-3.1-flash 获 vLLM Day-0 支持,可部署到开发者自有基础设施
Big thanks @vllm_project for making Ling-3.1-flash ready to run on developers’ own infrastructure from day one!
AI 导读蚂蚁百灵感谢 vLLM 对 Ling-3.1-flash 提供 Day-0 支持,开发者可从第一天起用 vLLM 在自有基础设施上运行该模型。vLLM 侧信息显示该模型总参数约 560B、每 token 激活约 25B、支持最高 1M 上下文,可从简单需求描述生成网站、移动 UI 和交互原型。
来源:蚂蚁百灵 · x.com
事件后续2
查看事件全部- 蚂蚁百灵开源 Ling-3.1-flash:560B 总参模型量化后可 4 卡部署公众号:蚂蚁百灵 · 10 月 15 日
- 蚂蚁百灵发布 Ling-3.1-flash,面向真实世界长任务升级公众号:蚂蚁百灵 · 9 月 30 日