使用文档

一个端点,
所有模型。

Tare 是挡在你所有模型前面的一层 OpenAI 兼容网关 —— 我们的,和你自己带来的。一个 base URL、一把 key,每一个 token 都算得清。

参考术语表

术语表

这篇解决什么问题:Tare 里那些术语,用一句大白话解释;容易混淆的,再说明它不指 什么。

按主题分组。遇到不认识的词,先在这里找。

基础

术语一句话解释不指什么
TareOpenAI 兼容的模型网关:应用只配一个 base URL 和一把 key,由谁作答交给 Tare 决定。不是模型供应商本身,它挡在你的应用和各家模型之间,不生产模型。
平台模型token 由平台采购、按平台价目表向你计费的模型。不是「免费的模型」;平台采购不等于不收费。
BYOK / 自有渠道Bring Your Own Key:你把上游供应商的凭据接进 Tare,token 由你直接向供应商结算。不是「更便宜的 token」,那部分钱你本来就直付供应商;换来的是花费集中在一处。
渠道(Channel)你自行接入的一个上游:一个 base URL 加一份凭据。不等于一个模型,一条渠道可以承载多个模型。
本地节点(Local Node)跑在你自己网络里的小型代理,让 BYOK 渠道从你的网络出去,或直接在本地提供 OpenAI 兼容端点。不能给平台共享渠道用,只有你自己的 BYOK 渠道能用。
LOCAL_NODE渠道上的一个出口模式标记:标了它的渠道,走 Tare 端点的调用会经隧道交给你的本地节点、从你的机器发出。不是模型名,也不是 key。把渠道切成 LOCAL_NODE 时控制台会一并写入 allowLocalEgress: true,不需要另外申请批准。
注册令牌控制台生成、用来把本地节点注册到账号下的一次性令牌。不是 key;它只显示一次、24 小时内有效、一次性使用,用掉后不可复用。

身份与凭据

术语一句话解释不指什么
Inference key(推理 key)调模型端点用的 key:chat、embeddings、图片、视频、/v1/models、/v1/generation。不能管 key、不能读账。
Provisioning key(母钥)用来开、查、改、停用子钥的 key(/v1/keys/*)。不能调模型、不能读账务,正因如此它泄露时才没有「无限花钱」的损失上限。
Child key(子钥)母钥为终端用户签发的 key,可单独限额、单独停用。底层类型仍是 inference,所以它不会出现在控制台「Inference」那一档里,要去「Child keys」看。
Reconciliation key(对账 key / integration key)只读账务和用量报表的 key(/v1/integration/*)。不能调模型、不能管理 key;它会被贴进 ERP 和工单系统,所以不能同时能花钱。
external_id你侧的业务编号,用来给子钥创建做幂等,也可直接按它定位 key。不是 key 本身,也不是 hash。它的唯一性包含已停用的 key:一个编号永久对应一把 key。
hash一把子钥的稳定标识,针对它的所有后续操作都用它。不是明文 key,明文只在创建时出现一次。
来源 IP 白名单限定某把 key 只能从哪些 IP / CIDR 调用;名单外返回 403,但 key 本身仍有效。不是吊销,它是一道围栏;而且 IPv4 和 IPv6 互不代替。
轮换建新 key → 发布 → 停用旧的;停用立即生效且可撤销。已记在旧 key 上的用量不会迁移,当月账单里两把都会出现。

路由与可用性

术语一句话解释不指什么
Router / 路由决定某个模型名由哪个渠道作答的那套配置。一个账号可以不止一个 Router,用不同的 key 绑不同的 Router。不是网络层的路由,这里指的是「模型到渠道」的映射。
候选一个模型名下、当前可能被尝试的那些渠道。不等于「一定都会被调用」,熔断中的会被跳过(记成 parked)。
priority候选之间的主备顺序,数值小的先走。不是权重;新路由不指定 priority 时,落在现有最高档之后新开的一档,从来不是 0。
weight同一 priority 内分配流量的比例。不是「0 表示停用」,weight 最小是 1,要暂停一条路由请把它关闭。
兜底路由模型名填 * 的路由,承接所有没按名字配置过的模型。只在某个模型没有任何路由时生效;模型配置过但渠道全失败时返回失败,不会静默换一家。
故障转移一条候选失败时,把这次调用转到下一条候选。唯一的例外是你自己的客户端中途断开,那种情况直接停止转移。
熔断一条渠道累计 5 次算数的失败后被自动暂时停用:先停 30 秒,恢复失败则冷却翻倍、封顶 300 秒。不是永久摘除,也不是各算各的;熔断状态是共享的。
parked候选当时被熔断关着,一个字节都没发出去。不算一次尝试,也不计入路由费的最低收费。
never tried未被轮到的候选,只在应急尝试上限被开启时出现。不是失败,也不算一次尝试。
Model Health按模型给出的 up/degraded 状态,数据来自你自己最近的调用量。从不点名供应商,一个模型背后接了哪几家是平台的商业信息。
UPSTREAM_ALL_DOWN一种事故类型:某个模型的全部候选渠道都不可用,请求正在被拒绝(常表现为 503)。不是「这个模型没配路由」,那是 404,两者含义和解法都不同。

请求与响应

术语一句话解释不指什么
gen- 编号每次调用由平台生成的编号(gen-xxxxx),用于查成本,也可作你侧记账的幂等键。不是上游生成的。前缀是硬要求,不少客户端用 id.startsWith("gen-") 判断。
Dialect(各家 API 的差异)上游 API 与 OpenAI 格式的差异:路径、请求体形状、必填字段都可能不同,由 Tare 翻译。不只是「换个路径」,OpenAI Responses 和 OpenAI 兼容是真正不同的形状(messages 变 input 等)。
模态(modality)请求携带的输入类型(文本 / 图片 / 音频 / 视频)。路由只看输入模态,不看请求的输出模态。
stream_options.include_usage流式请求里用来在末帧带上 usage 的开关。Tare 会强制打开并覆盖你的设置,没有用量就无法计费和归因。
SSE 注释以 : 开头、让连接保持活着的注释行;大输入调用首字节前可能先收到若干条。不是数据帧,SSE 规范要求解析器忽略它,只有手写解析的客户端要小心别拿去 JSON 解析。
provider请求体里的按次路由偏好字段(order / only / ignore / allow_fallbacks / sort)。会被 Tare 消费掉,不会转发给上游;sort: "price"、sort: "throughput" 目前没有效果。
models请求体里的备用模型链,只对这一次请求生效,最多 5 个。不是归因标签;会被 Tare 消费掉、从不转发给上游。超出的部分静默丢弃,不报错。
usage_label请求体里的归因标签,用来标记调用属于哪个业务,原样落进用量记录。只有 chat、embeddings、images 支持;视频生成接收但不读取它。
reasoning_content回包里承载模型思考过程的字段(流式是 delta.reasoning_content),独立于 content。各家上游形状不同,但都统一翻译成这一个字段,你只读这一处。
usage.cost回包里这次调用的成本,单位美元。无法计算时该字段不出现,而不是 0,一个假的 0 会被当真。

成本与计费

术语一句话解释不指什么
进价你付给上游的价格(每百万 token)。不参与向你收费;它只决定成本归因能不能算出来。上游在回包里自报成本时,完全不使用进价表。
Charged平台向你收取的金额。不是这次调用花掉你的全部,纯 BYOK 账号上它是 0。
Attributed spend这次调用实际花掉你多少,含供应商直接向你收取的部分。不是平台收你的钱;衡量单个功能的成本时用这个值。
额度上限(key 的 limit)一把 key 的累计消费上限,用完不重置。不是余额、也不是月度预算;null 表示不限额,不是 0。
月度预算本月消费上限,每月清零。不与 key 额度合并,因为积分不会每月自动恢复。
覆盖率一份账单里「有上游成本数据的调用」占多少;没覆盖的比例会一并给出。「覆盖 62%」不代表另外 38% 没有成本,只是平台无从得知那部分的成本;用未覆盖全的数字算毛利会偏乐观。
账单(statement)一期结束时数字冻结、之后不再变动的那份;更正作为补差计入当期。不是 Billing 页,那一页每次打开都重算,适合分析不适合对账;只有已锁定的期才是账单。

数据与治理

术语一句话解释不指什么
DLP数据保护:每次调用离开 Tare 之前扫一遍敏感内容,命中后拦截、脱敏还是只报警由你设置。不是只看固定字段,它扫整个请求体的每一个字符串值(结构字段和二进制内容除外)。
推荐规则(DLP pack)一份持续维护的共享检测规则清单(比如新发现的密钥格式),是否作用到你的流量由你决定。默认是「只告诉我」:照常计数命中,但从不改动或拒绝请求。
Call Traces调用留痕:记录模型、token、成本、路由尝试和失败原因。不等于「请求内容一定被存下来」,内容默认完全不存储,只有打开留存开关才存。
Audit Trail审计日志:账号上价格、路由、计费方式、额度、凭据等改动的通用流水账。不只是记内容授权;每一条都标着是你自己改的还是平台代你改的。
Mock演习:给某把 key 挂一个固定失败场景,用这把 key 的请求直接返回模拟结果,不打上游。只圈定你指名的那把 key,不是整个账号;不填 expiresAt 默认 4 小时后过期,没有「永久」。

下一步

文档最后更新于 2026 年 10 月 17 日 23:03(UTC+8)