一个端点,
所有模型。
Tare 是挡在你所有模型前面的一层 OpenAI 兼容网关 —— 我们的,和你自己带来的。一个 base URL、一把 key,每一个 token 都算得清。
参考术语表
术语表
这篇解决什么问题:Tare 里那些术语,用一句大白话解释;容易混淆的,再说明它不指 什么。
按主题分组。遇到不认识的词,先在这里找。
基础
| 术语 | 一句话解释 | 不指什么 |
|---|---|---|
| Tare | OpenAI 兼容的模型网关:应用只配一个 base URL 和一把 key,由谁作答交给 Tare 决定。 | 不是模型供应商本身,它挡在你的应用和各家模型之间,不生产模型。 |
| 平台模型 | token 由平台采购、按平台价目表向你计费的模型。 | 不是「免费的模型」;平台采购不等于不收费。 |
| BYOK / 自有渠道 | Bring Your Own Key:你把上游供应商的凭据接进 Tare,token 由你直接向供应商结算。 | 不是「更便宜的 token」,那部分钱你本来就直付供应商;换来的是花费集中在一处。 |
| 渠道(Channel) | 你自行接入的一个上游:一个 base URL 加一份凭据。 | 不等于一个模型,一条渠道可以承载多个模型。 |
| 本地节点(Local Node) | 跑在你自己网络里的小型代理,让 BYOK 渠道从你的网络出去,或直接在本地提供 OpenAI 兼容端点。 | 不能给平台共享渠道用,只有你自己的 BYOK 渠道能用。 |
LOCAL_NODE | 渠道上的一个出口模式标记:标了它的渠道,走 Tare 端点的调用会经隧道交给你的本地节点、从你的机器发出。 | 不是模型名,也不是 key。把渠道切成 LOCAL_NODE 时控制台会一并写入 allowLocalEgress: true,不需要另外申请批准。 |
| 注册令牌 | 控制台生成、用来把本地节点注册到账号下的一次性令牌。 | 不是 key;它只显示一次、24 小时内有效、一次性使用,用掉后不可复用。 |
身份与凭据
| 术语 | 一句话解释 | 不指什么 |
|---|---|---|
| Inference key(推理 key) | 调模型端点用的 key:chat、embeddings、图片、视频、/v1/models、/v1/generation。 | 不能管 key、不能读账。 |
| Provisioning key(母钥) | 用来开、查、改、停用子钥的 key(/v1/keys/*)。 | 不能调模型、不能读账务,正因如此它泄露时才没有「无限花钱」的损失上限。 |
| Child key(子钥) | 母钥为终端用户签发的 key,可单独限额、单独停用。 | 底层类型仍是 inference,所以它不会出现在控制台「Inference」那一档里,要去「Child keys」看。 |
| Reconciliation key(对账 key / integration key) | 只读账务和用量报表的 key(/v1/integration/*)。 | 不能调模型、不能管理 key;它会被贴进 ERP 和工单系统,所以不能同时能花钱。 |
external_id | 你侧的业务编号,用来给子钥创建做幂等,也可直接按它定位 key。 | 不是 key 本身,也不是 hash。它的唯一性包含已停用的 key:一个编号永久对应一把 key。 |
hash | 一把子钥的稳定标识,针对它的所有后续操作都用它。 | 不是明文 key,明文只在创建时出现一次。 |
| 来源 IP 白名单 | 限定某把 key 只能从哪些 IP / CIDR 调用;名单外返回 403,但 key 本身仍有效。 | 不是吊销,它是一道围栏;而且 IPv4 和 IPv6 互不代替。 |
| 轮换 | 建新 key → 发布 → 停用旧的;停用立即生效且可撤销。 | 已记在旧 key 上的用量不会迁移,当月账单里两把都会出现。 |
路由与可用性
| 术语 | 一句话解释 | 不指什么 |
|---|---|---|
| Router / 路由 | 决定某个模型名由哪个渠道作答的那套配置。一个账号可以不止一个 Router,用不同的 key 绑不同的 Router。 | 不是网络层的路由,这里指的是「模型到渠道」的映射。 |
| 候选 | 一个模型名下、当前可能被尝试的那些渠道。 | 不等于「一定都会被调用」,熔断中的会被跳过(记成 parked)。 |
| priority | 候选之间的主备顺序,数值小的先走。 | 不是权重;新路由不指定 priority 时,落在现有最高档之后新开的一档,从来不是 0。 |
| weight | 同一 priority 内分配流量的比例。 | 不是「0 表示停用」,weight 最小是 1,要暂停一条路由请把它关闭。 |
| 兜底路由 | 模型名填 * 的路由,承接所有没按名字配置过的模型。 | 只在某个模型没有任何路由时生效;模型配置过但渠道全失败时返回失败,不会静默换一家。 |
| 故障转移 | 一 条候选失败时,把这次调用转到下一条候选。 | 唯一的例外是你自己的客户端中途断开,那种情况直接停止转移。 |
| 熔断 | 一条渠道累计 5 次算数的失败后被自动暂时停用:先停 30 秒,恢复失败则冷却翻倍、封顶 300 秒。 | 不是永久摘除,也不是各算各的;熔断状态是共享的。 |
| parked | 候选当时被熔断关着,一个字节都没发出去。 | 不算一次尝试,也不计入路由费的最低收费。 |
| never tried | 未被轮到的候选,只在应急尝试上限被开启时出现。 | 不是失败,也不算一次尝试。 |
| Model Health | 按模型给出 的 up/degraded 状态,数据来自你自己最近的调用量。 | 从不点名供应商,一个模型背后接了哪几家是平台的商业信息。 |
UPSTREAM_ALL_DOWN | 一种事故类型:某个模型的全部候选渠道都不可用,请求正在被拒绝(常表现为 503)。 | 不是「这个模型没配路由」,那是 404,两者含义和解法都不同。 |
请求与响应
| 术语 | 一句话解释 | 不指什么 |
|---|---|---|
gen- 编号 | 每次调用由平台生成的编号(gen-xxxxx),用于查成本,也可作你侧记账的幂等键。 | 不是上游生成的。前缀是硬要求,不少客户端用 id.startsWith("gen-") 判断。 |
| Dialect(各家 API 的差异) | 上游 API 与 OpenAI 格式的差异:路径、请求体形状、必填字段都可能不同,由 Tare 翻译。 | 不只是「换个路径」,OpenAI Responses 和 OpenAI 兼容是真正不同的形状(messages 变 input 等)。 |
| 模态(modality) | 请求携带的输入类型(文本 / 图片 / 音频 / 视频)。 | 路由只看输入模态,不看请求的输出模态。 |
stream_options.include_usage | 流式请求里用来在末帧带上 usage 的开关。 | Tare 会强制打开并覆盖你的设置,没有用量就无法计费和归因。 |
| SSE 注释 | 以 : 开头、让连接保持活着的注释行;大输入调用首字节前可能先收到若干条。 | 不是数据帧,SSE 规范要求解析器忽略它,只有手写解析的客户端要小心别拿去 JSON 解析。 |
provider | 请求体里的按次路由偏好字段(order / only / ignore / allow_fallbacks / sort)。 | 会被 Tare 消费掉,不会转发给上游;sort: "price"、sort: "throughput" 目前没有效果。 |
models | 请求体里的备用模型链,只对这一次请求生效,最多 5 个。 | 不是归因标签;会被 Tare 消费掉、从不转发给上游。超出的部分静默丢弃,不报错。 |
usage_label | 请求体里的归因标签,用来标记调用属于哪个业务,原样落进用量记录。 | 只有 chat、embeddings、images 支持;视频生成接收但不读取它。 |
reasoning_content | 回包里承载模型思考过程的字段(流式是 delta.reasoning_content),独立于 content。 | 各家上游形状不同,但都统一翻译成这一个字段,你只读这一处。 |
usage.cost | 回包里这次调用的成本,单位美元。 | 无法计算时该字段不出现,而不是 0,一个假的 0 会被当真。 |
成本与计费
| 术语 | 一句话解释 | 不指什么 |
|---|---|---|
| 进价 | 你付给上游的价格(每百万 token)。 | 不参与向你收费;它只决定成本归因能不能算出来。上游在回包里自报成本时,完全不使用进价表。 |
| Charged | 平台向你收取的金额。 | 不是这次调用花掉你的全部,纯 BYOK 账号上它是 0。 |
| Attributed spend | 这次调用实际花掉你多少,含供应商直接向你收取的部分。 | 不是平台收你的钱;衡量单个功能的成本时用这个值。 |
额度上限(key 的 limit) | 一把 key 的累计消费上限,用完不重置。 | 不是余额、也不是月度预算;null 表示不限额,不是 0。 |
| 月度预算 | 本月消费上限,每月清零。 | 不与 key 额度合并,因为积分不会每月自动恢复。 |
| 覆盖率 | 一份账单里「有上游成本数据的调用」占多少;没覆盖的比例会一并给出。 | 「覆盖 62%」不代表另外 38% 没有成本,只是平台无从得知那部分的成本;用未覆盖全的数字算毛利会偏乐观。 |
| 账单(statement) | 一期结束时数字冻结、之后不再变动的那份;更正作为补差计入当期。 | 不是 Billing 页,那一页每次打开都重算,适合分析不适合对账;只有已锁定的期才是账单。 |
数据与治理
| 术语 | 一句话解释 | 不指什么 |
|---|---|---|
| DLP | 数据保护:每次调用离开 Tare 之前扫一遍敏感内容,命中后拦截、脱敏还是只报警由你设置。 | 不是只看固定字段,它扫整个请求体的每一个字符串值(结构字段和二进制内容除外)。 |
| 推荐规则(DLP pack) | 一份持续维护的共享检测规则清单(比如新发现的密钥格式),是否作用到你的流量由你决定。 | 默认是「只告诉 我」:照常计数命中,但从不改动或拒绝请求。 |
| Call Traces | 调用留痕:记录模型、token、成本、路由尝试和失败原因。 | 不等于「请求内容一定被存下来」,内容默认完全不存储,只有打开留存开关才存。 |
| Audit Trail | 审计日志:账号上价格、路由、计费方式、额度、凭据等改动的通用流水账。 | 不只是记内容授权;每一条都标着是你自己改的还是平台代你改的。 |
| Mock | 演习:给某把 key 挂一个固定失败场景,用这把 key 的请求直接返回模拟结果,不打上游。 | 只圈定你指名的那把 key,不是整个账号;不填 expiresAt 默认 4 小时后过期,没有「永久」。 |
下一步
文档最后更新于 2026 年 10 月 17 日 23:03(UTC+8)