model-selection-by-budget · ZH · 2026-11-06

预算驱动的选型:在 1.3 倍规则下为每次调用挑后端

本文介绍如何在 LLM API 聚合站的 ×1.3 计费规则下,根据固定的 USDC 预算,倒推选择合适后端和控制提示词长度,让一次会话不超支。提供三步法:明确预算与价格基准、估算单次调用成本、迭代优化选型与提示词。

预算驱动的选型:在 1.3 倍规则下为每次调用挑后端

在 LLM API 聚合站,你使用一个 API key 调用多个模型,费用按官方价 ×1.3 从充值 USDC 中扣除。若预算固定,选型就变成一个倒推问题:给定预算,能跑多少次调用?该选哪个后端?提示词该多长?

第一步:明确预算与价格基准

假设你为一次会话充值了 B USDC。每个后端的价格(每百万 token 输入/输出)需查阅官方定价,乘以 1.3 即为你实际支付单价。例如某模型官方输入价 pin、输出价 pout,则实际单价为 1.3pin 和 1.3pout。

第二步:估算单次调用成本

一次调用的成本由输入 token 数(提示词+上下文)和输出 token 数决定:

  • 成本 = 输入 token 数 × 1.3pin / 1e6 + 输出 token 数 × 1.3pout / 1e6
  • 输入 token 数 ≈ (提示词字数 + 历史对话字数) × 每字 token 系数(英文约 0.25,中文约 0.5-1)
  • 输出 token 数可预设上限(如 max_tokens)

因此,在预算 B 下,单次调用成本必须 ≤ B / 预计调用次数。

第三步:迭代优化选型与提示词

给定预算和调用次数,可按以下顺序调整:

  1. 选择更低单价的后端:不同模型价格差异大,在满足质量要求的前提下,选输入/输出单价更低的模型。
  2. 精简提示词:移除冗余示例、缩短系统提示,直接降低输入 token。
  3. 控制输出长度:设置 max_tokens,避免生成过长文本。
  4. 管理上下文:多轮对话时定期截断历史,或使用摘要,防止 token 累积。

示例:预算 1 USDC 的会话

假设某模型官方输入价 $0.5/百万 token,输出价 $1.5/百万 token,实际单价为 $0.65 和 $1.95(×1.3)。若单次调用输入 1000 token、输出 500 token,则成本 ≈ 1000×0.65/1e6 + 500×1.95/1e6 = $0.001625。1 USDC 可支持约 615 次调用。若提示词增长到 2000 token,成本翻倍,调用次数减半。

通过这种倒推,你能在预算内合理选型并控制提示词长度,避免中途耗尽余额。