一个程序员跑完一天的编码任务，账单从 15.36 美元降到 6.63 美元。这不是换了便宜模型，准确率只掉了 1.5 个百分点。
3 月初，Fireworks AI 发布了 FireRouter with Opus。它做的事情说白了，是给一堆大模型配了个调度员：每次用户提问，它先看清楚这道题有多难，再决定该派谁上场。
这家公司称，这是市场上第一个"缓存感知"的路由器。所谓缓存感知，你可以理解成点外卖时的凑单逻辑——你已经在这家店下过一单，配送费也付了，中途换一家店，省下的菜钱可能还不够重新付一次配送费。AI 模型也有类似的"配送费"，叫提示缓存。上下文一旦被缓存，后续对话处理起来又快又便宜；一换模型，缓存全部作废，得从头再算一遍。
FireRouter 的核心就在于，它每轮都会算这笔账。
它先看模型池里每个模型对当前这轮任务合不合适，再估算各自的处理成本，包括缓存的成本，然后把"换个便宜模型能省多少"和"丢掉缓存要亏多少"放在天平上称一称，最后选那个质量和花费最划算的。目前池子里有三个：Claude Opus 5.5、GLM 5.3 和 GLM 5.3 Flash。随着新模型发布，这个名单还会变。
这不是拍脑袋决定的。Fireworks AI 拿自己内部的编码流量做了一个多月的 A/B 测试。会话被随机分到两组，一组走 FireRouter with Opus，一组只用 Opus。两组的工作负载一样，用户也一样，唯一的差别就是有没有那个调度员。
结果摆在台面上：每次会话成本从 15.36 美元掉到 6.63 美元，降了 57%，置信区间 ±19 个百分点。准确率这一头，FireRouter 组在评分轮次中拿到 78.7 分，只用 Opus 的对照组是 80.2 分，差 1.5 个百分点，置信区间 ±1.3。换算一下，FireRouter 达到了单独用 Opus 时 98.1% 的准确率。
缓存命中率也如预期地降了一点：94.2% 对 97.8%，差 3.6 个百分点。
Fireworks AI 自己把这称作"一个微小而有意的取舍"。道理不复杂：内部编码工作里有大量常规轮次，开源模型完全接得住，把简单活儿分流给便宜模型，整体支出就下来了。
对开发者来说，上手成本低到有点不像真的。它已经接进 Claude Code、Codex、Cursor IDE 这些常用工具链，跑两行命令就能开关：
`fireconnect login`
`fireconnect claude --model firerouter/opus`
这里值得注意的是"独立路由模型形式作为 serverless 端点开放"这件事。以前的路由方案，多半是绑在某个平台内部的隐藏逻辑，用的人看不到也换不掉。这次它被做成一个能单独调用的端点，意味着工程团队可以把它塞进自己现有的工具链里，不用推翻重来。
Fireworks AI 把这套东西归到 Fireworks Nexus 这个解决方案下面，目标写得也挺直白：让工程团队把领先的开源模型接进现有工作流，速度和质量不打折，账单砍一半。
这件事真正的看点，其实不在省了多少钱，而在于"模型路由"这件事正在从实验室里的优化技巧，变成能直接卖的产品。过去两年，所有人都在比谁的模型更强，参数更大，榜单分更高。但落到真实业务里，一个团队每天跑的请求成千上万，其中绝大多数是重复、简单、不需要顶配模型也能干好的活儿。让最贵的模型去处理这些，就像每天开着卡车去楼下买瓶酱油。
现在有人开始认真算这笔账了：什么活儿配什么车。当路由能做到缓存感知、能把切换成本和节省放在一起权衡时，"用最好的模型"这个默认选择，可能第一次变得不那么划算。
如果这 57% 的降幅能在更广泛的真实负载里站住脚，接下来要紧张的可能不是模型厂商，而是那些按调用量计费的 AI 应用公司——它们的成本结构里，藏着大量本可以被分流掉的贵价轮次。