返回精选
Google Developers Blog2026-10-20 00:0028 天前

Google 发布 vLLM 与 SGLang 的 TorchTPU 原生推理引擎

Announcing New vLLM and SGLang Inference Engines on TPU

AI 导读

Google 在 PyTorch 相关公告中推出基于 TorchTPU 的 vLLM 和 SGLang 原生 PyTorch 推理引擎,分别与 Inferact、RadixArk 合作开发,让开发者用熟悉的 PyTorch 工具在 TPU 上部署模型。

另有 2 家信源报道

来源:Google Developers Blog · developers.googleblog.com

事件后续1

查看事件全部

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。