使用文档

一个端点,
所有模型。

Tare 是挡在你所有模型前面的一层 OpenAI 兼容网关 —— 我们的,和你自己带来的。一个 base URL、一把 key,每一个 token 都算得清。

上游接入路由

路由

路由决定某个模型名由哪个渠道作答。

控制台 → Routing。

覆盖平台默认路由

给一条路由起与平台默认同名的模型名,即由你的路由接管,平台那条留在后面兜底:你的 供应商故障时这个模型不会跟着不可用。

Priority 和 Weight

  • Priority 是主备顺序,数值小的先走。
  • Weight 在同一 priority 内分配流量。9 和 1 表示十次里九次走第一条。
  • 要让一条路由暂停但保留,把它关闭。Weight 最小值是 1,0 不表示停用。

故障转移自动进行:连续失败的渠道会被 park(停止发送并转移流量),探测成功后自动恢复。 Model Health 页可以看到哪些渠道处于 park 状态。

兜底路由

模型名填 * 的路由,承接所有未按名字配置过的模型,而不是返回「没有配置路由」。

上游名填与不填是两种行为:

上游名行为
留空将请求的模型名原样透传给上游 —— 适用于上游本身是聚合网关的场景
填写所有未配置的模型一律改用这一个作答

上游名称是个下拉,列的是你在所选渠道上配好的模型(录过进价的那些,见进价)。 因为这一格打错字不会报错:路由照样建得出来,错只体现在调用时被上游拒。 选 Something else… 可以手打一个不在列表里的名字 —— 私有部署和别名是正当用法,这条路一直留着。

[!WARNING] 兜底只在某个模型没有任何路由时生效。模型配置过但渠道全部失败时返回失败,不会静默 换一家;否则你会在自己请求的模型名下收到另一个模型的输出,且没有任何地方说明。

修改兜底路由最多一分钟生效。

多模态

路由可以声明其渠道接受哪些输入类型,带图片的请求只会发给声明接受图片的路由。 未声明的路由不会被排除——「未声明」按「未知,不排除」处理,否则这个字段启用的那一刻, 所有带图请求会同时失去全部候选。

文档最后更新于 2026 年 9 月 20 日 06:31(UTC+8)