返回精选
vLLM 官方博客Ant Group and the vLLM Community2026-10-21 08:0027 天前

蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming

Announcing Humming: Fast, Flexible Kernels for Quantized Inference

AI 导读

蚂蚁集团与 vLLM 社区开源通用高性能量化推理内核库 Humming,仓库为 github.com/vllm-project/humming。

来源:vLLM 官方博客 · vllm.ai

事件后续1

查看事件全部

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。