智能模型路由,在不降低语义质量的前提下大幅压缩推理开销。一行代码即可部署。
通过通用网关连接,完全兼容 OpenAI/Anthropic SDK,零配置。
双层分类器:规则引擎(<1ms)+ LLM 处理模糊场景。16种任务类型,5个复杂度等级。
评分公式选择最优模型。失败自动降级。简单任务 → $0.32,复杂任务 → $15。
也可用 model="auto",路由器会分析复杂度并自动选择最佳层级。平均节省 60-70%。
系统已就绪,立即开始节省。