热点榜
热点事件已平息

OpenRouter 重建默认路由:延迟降 16.9%

5 篇报道2 个报道来源5 天前更新

先了解这件事

OpenRouter 重建了默认的提供商路由算法,从只按价格排序改为按“Routing Cost”综合有效价格、首字延迟(TTFT)、吞吐、错误率和输出质量选路。OpenRouter 称,新算法使 TTFT 降低 16.9%、429 错误减少 67%。使用默认路由的用户无需改动即自动生效;若想保留旧的纯价格排序,可将 provider.sort 设为 "price"、在模型标识后加 :floor,或在账户设置中把默认排序设为 price。

OpenRouter 在后续帖文中称,新算法优先选择实际成本下推理质量最佳的供应商,表现更好的供应商会自动获得更多流量。其给出的对比数据显示,TTFT p95 降低 18.9%,至少触发一次 429 的比例从 7.1% 降至 3.8%,需要重试的比例从 10.4% 降至 6.9%,但每百万 token 成本上升 7.3%。

OpenRouter 还公布了 Beta 版实测数据:无效工具调用降低 4 倍,智能体响应被截断的情况减少 50%,延迟相比之前的路由器降低 3 倍。OpenRouter 称,Auto Router 每月接收来自超过 10 万人的逾 2.5T tokens,新一代产品建立在运行 Auto Router 三年所积累的原则之上。OpenRouter 另称,过去一个月 GLM 5.3 Flash 用户 TTFT 下降 40%、吞吐量提升 10%、每百万 token 价格下降 17%,并将其归因于新路由算法向推理表现好的供应商分配更多流量。

AI 根据报道生成 · 5 天前更新

最新进展

OpenRouter 新路由算法提升推理表现

热度走势

事件进展3

  1. OpenRouter推出新路由算法提升GLM 5.3 Flash性能

    OpenRouter:OpenRouter 新路由算法提升推理表现
  2. OpenRouter 公布 Beta 版性能数据

    OpenRouter:OpenRouter 路由实测优于基准
  3. OpenRouter发布新路由算法优化推理性能

    OpenRouter:Announcements:OpenRouter 重建默认路由算法:TTFT 降 16.9%、429 错误减少 67%

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。