返回精选
vLLM 官方博客Inferact and Google Teams2026-10-20 08:0028 天前

vLLM 发布 TorchTPU 后端,让 vLLM 在 Google Cloud TPU 上运行

Introducing vLLM TorchTPU

AI 导读

vLLM 团队与 Inferact、Google 合作发布 vLLM TorchTPU(vllm-torchtpu),一个在 Google Cloud TPU 上运行 vLLM 的新后端插件,复用 vLLM 既有模型代码,无需改动模型定义即可部署大多数现有模型。

另有 2 家信源报道

来源:vLLM 官方博客 · vllm.ai

事件后续1

查看事件全部

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。