先了解这件事
OpenRouter 重建了默认的提供商路由算法,从只按价格排序改为按“Routing Cost”综合有效价格、首字延迟(TTFT)、吞吐、错误率和输出质量选路。OpenRouter 称,新算法使 TTFT 降低 16.9%、429 错误减少 67%。使用默认路由的用户无需改动即自动生效;若想保留旧的纯价格排序,可将 provider.sort 设为 "price"、在模型标识后加 :floor,或在账户设置中把默认排序设为 price。
OpenRouter 在后续帖文中称,新算法优先选择实际成本下推理质量最佳的供应商,表现更好的供应商会自动获得更多流量。其给出的对比数据显示,TTFT p95 降低 18.9%,至少触发一次 429 的比例从 7.1% 降至 3.8%,需要重试的比例从 10.4% 降至 6.9%,但每百万 token 成本上升 7.3%。
OpenRouter 还公布了 Beta 版实测数据:无效工具调用降低 4 倍,智能体响应被截断的情况减少 50%,延迟相比之前的路由器降低 3 倍。OpenRouter 称,Auto Router 每月接收来自超过 10 万人的逾 2.5T tokens,新一代产品建立在运行 Auto Router 三年所积累的原则之上。OpenRouter 另称,过去一个月 GLM 5.3 Flash 用户 TTFT 下降 40%、吞吐量提升 10%、每百万 token 价格下降 17%,并将其归因于新路由算法向推理表现好的供应商分配更多流量。
AI 根据报道生成 · 5 天前更新最新进展
OpenRouter 新路由算法提升推理表现
热度走势
事件进展3
OpenRouter推出新路由算法提升GLM 5.3 Flash性能
OpenRouter:OpenRouter 新路由算法提升推理表现OpenRouter 公布 Beta 版性能数据
OpenRouter:OpenRouter 路由实测优于基准OpenRouter发布新路由算法优化推理性能
OpenRouter:Announcements:OpenRouter 重建默认路由算法:TTFT 降 16.9%、429 错误减少 67%