一条请求路径里的两把 key:聚合站何时走你的 BYOK、何时回落到平台 key
本文从单次 API 调用的路由决策出发,解释聚合站如何在你的 BYOK key 与平台 key 之间选择,涵盖模型匹配、故障转移和验证响应来源的方法。
路由决策的触发点
当你向聚合站发送请求时,服务端会先解析请求中的模型标识(例如 claude-3-opus 或 gpt-4-turbo),然后根据当前可用的 key 池决定由哪一把 key 来实际调用上游供应商。这个决策过程对调用方透明,但理解其逻辑有助于你优化成本和排查问题。
何时走你的 BYOK key
聚合站优先使用你贡献的 BYOK key 来匹配请求,前提是:
- 该 key 所属的供应商与请求的模型一致(例如 Anthropic key 用于 Claude 模型)。
- 该 key 当前未被限流、未过期,且余额充足(针对按量计费的 key)。
- 平台配置中该 key 的权重允许被路由(通常默认启用)。
如果满足以上条件,请求会直接使用你的 key 调用上游,你也会因此获得按官方价 ×1.1(优质 ×1.2)的 USDC 返利。
何时回落到平台 key
以下几种情况聚合站会改用平台自有的 key(即其他用户贡献的 key 或平台储备):
- 你的 key 无法服务该模型(例如你用 OpenAI key 请求 Claude)。
- 你的 key 触发了速率限制或配额不足。
- 上游返回错误(如 429、5xx),且故障转移策略允许切换。
- 你在请求中显式指定不使用 BYOK(部分聚合站支持此类参数)。
回落到平台 key 后,你仍然按官方价 ×1.3 付费,但调用能正常完成。
故障转移与重试逻辑
聚合站通常实现多级故障转移:
- 首先尝试匹配用户 BYOK key。
- 若失败,立即切换到同供应商的其他可用 key(包括平台 key 或其他用户的 key)。
- 若同一供应商无可用 key,可能跨供应商切换(仅当模型兼容时,例如同一模型的不同部署)。
- 每次重试会记录日志,但最终响应只返回一次成功结果。
注意:故障转移可能改变实际使用的 key,但不会改变计费模型——你仍然按 ×1.3 付费,贡献者仍按 ×1.1/×1.2 获得返利。
如何验证响应由哪把 key 提供
聚合站通常不会在响应体中直接暴露 key 标识,但你可以通过以下方式间接判断:
- 查看响应头:部分聚合站在 HTTP 响应头中返回
X-Provider-Key-Source或类似字段,标明byok或platform。 - 检查用量日志:在聚合站的控制台中,每次调用会记录实际使用的 key 来源。
- 对比返利记录:如果你的 BYOK key 被使用,返利记录中会出现对应条目;若长期无返利,可能请求都走了平台 key。
- 使用调试模式:某些聚合站提供
debug=true参数,会在响应中附加路由信息。
实践建议
- 如果你希望最大化 BYOK 返利,确保贡献的 key 与常用模型匹配,并保持 key 健康。
- 在关键业务中,不要依赖单一 key;聚合站的故障转移正是为了提升可用性。
- 定期检查用量日志,了解你的请求实际由哪类 key 服务,以便调整贡献策略。
理解这条请求路径上的两把 key,能帮助你更有效地利用聚合站,同时控制成本。