vLLM Day-0 支持 Thinking Machines 的 Inkling 2 Small
Inkling 2 Small on vLLM: Day-0 Support
AI 导读vLLM 宣布 Day-0 支持 Thinking Machines 的 Inkling 2 Small,这是一款 594B 总参数、17B 激活的多模态 MoE 模型,上下文最长 1M tokens,并带原生 DSpark 推测解码。
来源:vLLM 官方博客 · vllm.ai
事件后续1
查看事件全部- Thinking Machines Lab 发布 Inkling 2 Small:594B 参数 MoE 模型,下周开放 Apache 2.0 权重Thinking Machines Lab:News · 11 天前