便宜模型配大提示词:1.3 倍规则下什么时候低价后端反而比高价后端更贵
在 LLM API 聚合站中,所有模型按官方价 ×1.3 扣费,这容易让人误以为成本排序与官方价一致。但实际账单由输入 token、输出 token 和输出冗长度共同决定。本文通过具体算例,说明在长提示词和高输出场景下,低价后端可能比高价后端更贵,并给出选型建议。
为什么 ×1.3 不会改变排序,但会改变“谁更划算”
聚合站按官方价 ×1.3 扣费,这意味着任何两个模型的单 token 价格比保持不变。如果只看每百万 token 的挂牌价,排序似乎一目了然。但真实账单是:输入 token 数 × 输入单价 × 1.3 + 输出 token 数 × 输出单价 × 1.3。决定总价的不是单价本身,而是单价与用量的乘积。
输入长、输出短:低价后端的优势被放大
假设模型 A 官方输入价高、输出价低,模型 B 输入价低、输出价高。在短提示词、长输出的场景下,A 可能更划算。但当提示词很长、输出很短时,输入成本占主导,B 的低输入价会放大优势。×1.3 只是等比例放大,不会扭转这种相对关系。
输出冗长:隐藏的成本放大器
很多低价后端为了“显得聪明”,倾向于生成更长的回答。同样的任务,高价后端可能用 200 个输出 token 说清楚,低价后端用了 500 个。输出单价低并不代表输出总价低。当输出 token 数翻倍时,即使单价只有一半,输出成本也可能持平甚至更高。再加上输入部分的固定成本,总价就可能反转。
一个具体算例
假设模型 H 官方输入价 3 元/百万 token,输出价 15 元/百万 token;模型 L 官方输入价 1 元/百万 token,输出价 2 元/百万 token。聚合站扣费系数 1.3。
场景一:短提示词、短输出。输入 500 token,输出 300 token。
- H 成本:(500×3 + 300×15) / 1,000,000 × 1.3 = (1500 + 4500) / 1,000,000 × 1.3 = 0.0078 元
- L 成本:(500×1 + 300×2) / 1,000,000 × 1.3 = (500 + 600) / 1,000,000 × 1.3 = 0.00143 元
L 明显更便宜。
场景二:长提示词、短输出。输入 20,000 token,输出 300 token。
- H 成本:(20000×3 + 300×15) / 1,000,000 × 1.3 = (60000 + 4500) / 1,000,000 × 1.3 = 0.08385 元
- L 成本:(20000×1 + 300×2) / 1,000,000 × 1.3 = (20000 + 600) / 1,000,000 × 1.3 = 0.02678 元
L 仍然更便宜,因为输入单价差距大。
场景三:长提示词、长输出且 L 更冗长。输入 20,000 token,输出 H 为 1,000 token,L 为 3,000 token。
- H 成本:(20000×3 + 1000×15) / 1,000,000 × 1.3 = (60000 + 15000) / 1,000,000 × 1.3 = 0.0975 元
- L 成本:(20000×1 + 3000×2) / 1,000,000 × 1.3 = (20000 + 6000) / 1,000,000 × 1.3 = 0.0338 元
L 依然便宜。
要出现反转,需要输出单价差距足够小,而输出量差距足够大。假设模型 H 输出价 8 元/百万 token,模型 L 输出价 6 元/百万 token,输入价 H 为 2 元、L 为 1 元。输入 10,000 token,输出 H 为 500 token,L 为 2,000 token。
- H 成本:(10000×2 + 500×8) / 1,000,000 × 1.3 = (20000 + 4000) / 1,000,000 × 1.3 = 0.0312 元
- L 成本:(10000×1 + 2000×6) / 1,000,000 × 1.3 = (10000 + 12000) / 1,000,000 × 1.3 = 0.0286 元
- L 成本:(10000×1 + 3000×6) / 1,000,000 × 1.3 = (10000 + 18000) / 1,000,000 × 1.3 = 0.0364 元
L 仍然略低。再提高 L 的输出冗长到 3,000 token:
此时 L 比 H 贵约 17%。
这个算例说明:当输出单价接近、而低价后端输出量显著更大时,总价可能反转。×1.3 对双方同等放大,不改变反转条件。
如何避免“低价陷阱”
- 不要只看每百万 token 单价,先估算你的典型输入长度和输出长度。
- 对输出长度敏感的任务(如总结、翻译、结构化抽取),优先测试不同后端的实际输出 token 数。
- 在聚合站中,用同一个 API key 切换后端做 A/B 测试,对比账单中的 token 消耗。
- 对长提示词场景,输入单价权重更高;对开放生成场景,输出单价和冗长度权重更高。
- 记住 ×1.3 是统一系数,它不会让贵的变便宜,只会让所有成本等比例上升。
结论
低价后端在短输入、短输出、低冗长的场景下通常更划算。但当输入很长、输出单价差距不大、且低价后端输出明显更啰嗦时,总价可能反超高价后端。选型时应该用“输入 token 数 × 输入单价 + 输出 token 数 × 输出单价”来估算,而不是只看挂牌价。