01 详细解释
对内提供一套接口,对外接多家厂商:切换模型只改配置,不用改业务代码;同时统一做密钥管理、重试、降级、用量统计。
选型看三点:是否支持流式与工具调用透传、故障时能否自动切换备用模型、以及日志是否够细(按业务线拆账)。
统一代理多家模型接口,做路由、限流、计费与日志。
本词条最后核验 2026-11-21 · 由本站编辑整理,欢迎指正
对内提供一套接口,对外接多家厂商:切换模型只改配置,不用改业务代码;同时统一做密钥管理、重试、降级、用量统计。
选型看三点:是否支持流式与工具调用透传、故障时能否自动切换备用模型、以及日志是否够细(按业务线拆账)。
每百万 token 多少钱只是表面。定价方式、SLA、数据驻留、模型下线与供应商锁定,才是合同里真正影响长期成本的部分。
下面这些站点来自 AI 导航(nav.ppv9.com)的同一份工具清单,按本词条的相关度挑选。