先了解这件事
腾讯混元开源覆盖训练到部署的投机解码框架 AngelSpec,并放出 Hy3-A21B 的 MTP 与 DFly drafter 权重及训练代码。
最新进展
腾讯混元开源 AngelSpec:投机解码推理加速最高 2.4 倍
事件进展1
腾讯混元开源 AngelSpec
公众号:腾讯混元:腾讯混元开源 AngelSpec:投机解码推理加速最高 2.4 倍
腾讯混元开源覆盖训练到部署的投机解码框架 AngelSpec,并放出 Hy3-A21B 的 MTP 与 DFly drafter 权重及训练代码。
腾讯混元开源 AngelSpec:投机解码推理加速最高 2.4 倍