一个端点,
所有模型。
Tare 是挡在你所有模型前面的一层 OpenAI 兼容网关 —— 我们的,和你自己带来的。一个 base URL、一把 key,每一个 token 都算得清。
上游接入路由
路由
路由决定某个模型名由哪个渠道作答。
控制台 → Routing。
覆盖平 台默认路由
给一条路由起与平台默认同名的模型名,即由你的路由接管,平台那条留在后面兜底:你的 供应商故障时这个模型不会跟着不可用。
Priority 和 Weight
- Priority 是主备顺序,数值小的先走。
- Weight 在同一 priority 内分配流量。9 和 1 表示十次里九次走第一条。
- 要让一条路由暂停但保留,把它关闭。Weight 最小值是 1,0 不表示停用。
故障转移自动进行:连续失败的渠道会被 park(停止发送并转移流量),探测成功后自动恢复。 Model Health 页可以看到哪些渠道处于 park 状态。
兜底路由
模型名填 * 的路由,承接所有未按名字配置过的模型,而不是返回「没有配置路由」。
上游名填与不填是两种行为:
| 上游名 | 行为 |
|---|---|
| 留空 | 将请求的模型名原样透传给上游 —— 适用于上游本身是聚合网关的场景 |
| 填写 | 所有未配置的模型一律改用这一个作答 |
上游名称是个下拉,列的是你在所选渠道上配好的模型(录过进价的那些,见进价)。 因为这一格打错字不会报错:路由照样建得出来,错只体现在调用时被上游拒。 选 Something else… 可以手打一个不在列表里的名字 —— 私有部署和别名是正当用法,这条路一直留着。
[!WARNING] 兜底只在某个模型没有任何路由时生效。模型配置过但渠道全部失败时返回失败,不会静默 换一家;否则你会在自己请求的模型名下收到另一个模型的输出,且没有任何地方说明。
修改兜底路由最多一分钟生效。
多模态
路由可以声明其渠道接受哪些输入类型,带图片的请求只会发给声明接受图片的路由。 未声明的路由不会被排除——「未声明」按「未知,不排除」处理,否则这个字段启用的那一刻, 所有带图请求会同时失去全部候选。
文档最后更新于 2026 年 9 月 20 日 06:31(UTC+8)