大模型API费用怎么算？输入输出Token、上下文预算与成本估算指南

大模型API的费用，通常不是按字符数直接计算，而是依据输入Token和输出Token分别计费。不同模型、供应商和功能的计费单位可能不同，因此实际接入时应以所选模型的官方文档、控制台说明和API返回结果为准。下面的方法用于建立可替换单价的预算模型，不代表任何当前价格。

先区分三种概念

输入Token是请求发送给模型的内容所占用的Token，可能包括系统提示、用户问题、历史消息、工具定义、结构化输出约束以及检索后拼接的资料。输出Token是模型生成的内容所占用的Token。上下文上限则是一次请求中模型能够处理的输入、输出及其他上下文的容量限制，它不等于可直接收费的金额。

字符数不能直接等同于Token数。Token切分会受到语言、标点、空格、代码和具体分词器影响，同一段文本在不同模型中也可能产生不同用量。需要精确估算时，应使用目标模型对应的分词工具，或先发送测试请求，再以返回的用量字段校准。

基本成本公式

如果供应商分别给出输入和输出单价，可以使用以下公式：

单次成本 = 输入Token数 ÷ 计费单位 × 输入单价 + 输出Token数 ÷ 计费单位 × 输出单价

若还存在缓存输入、推理Token、图片或音频等项目，应按照供应商的分类单独计算，不要把它们强行套入普通文本输入价格。很多接口会在响应中的usage或同类字段返回输入、输出及其他用量，程序应优先记录这些字段，而不是只根据文本长度推算。

假设算例：中文客服问答

以下数字仅为演示计算方法，并非任何模型的实际报价。假设某模型的输入单价为每百万Token 0.50美元，输出单价为每百万Token 1.50美元。一次客服请求包含系统提示、少量历史和用户问题，共使用1200个输入Token，模型生成300个输出Token。

输入成本为：1200 ÷ 1,000,000 × 0.50 = 0.0006美元；输出成本为：300 ÷ 1,000,000 × 1.50 = 0.00045美元。因此单次成本为0.00105美元。若一千次调用的平均用量完全相同，估算成本为1.05美元。实际账单还可能受到缓存、批处理、区域、税费、重试以及多模态输入规则影响，应以账单和官方用量定义为准。

上下文预算如何控制

1. 拆分固定提示。检查系统提示、格式要求和工具定义是否重复，删除不会影响任务的说明。
2. 精简历史消息。只保留与当前问题有关的轮次，较早内容可先摘要，再把摘要作为新上下文。
3. 筛选引用资料。检索场景不必把全部文档塞入请求，应按相关性、长度和答案所需证据选择片段。
4. 设置合理输出限制。可以在接口支持的情况下限制最大输出Token或设置相应参数，但不同API对参数名称、默认值和实际行为的定义并不一致，不能假设所有接口都相同。
5. 为超长请求预留空间。上下文预算应同时考虑输入和预期输出，否则输入虽未超限，模型仍可能因没有足够输出空间而截断。

用数据验证估算

在开发阶段，建议为每次调用记录模型标识、请求类型、输入Token、输出Token、缓存或推理相关用量、响应状态和重试次数。将估算值与API返回的usage字段按请求、用户或业务功能汇总，可以发现历史消息过长、工具定义重复或失败重试造成的额外消耗。涉及图片、音频、视频或供应商特有推理计费时，必须按对应规则记录，不能仅用文本Token代替。

历史精简的对比

假设同一客服问题在保留完整历史时使用2800个输入Token，精简后只保留900个输入Token，输出都为300个Token。按上面的假设单价，前者单次成本为0.00185美元，后者为0.0009美元。精简后成本下降，但如果删掉了必要的订单状态或用户约束，回答质量可能下降。因此预算优化不应只追求更少Token，而应保留对当前任务有用、可验证的上下文。