跳转到内容

什么是上下文长度?

上下文长度,就是模型本次请求需要一起读取的所有内容长度

你看到的可能只是一句话,但工具真正发给模型的,可能还包括历史对话、系统提示词、 文件内容、代码片段和日志。所有这些加起来,才是模型本次真正读取的上下文。

最短结论

  • 上下文长度不是你手动输入了多少字,而是模型本次请求实际读取了多少内容。
  • 历史对话、系统提示词、项目文件、日志、工具上下文,都可能进入上下文。
  • 上下文越长,输入 Token 通常越多,费用也可能越高。
  • 长上下文场景更能体现本站缓存技术的价值。

上下文到底包含什么?

一次请求里,模型不是只读取你最后输入的那句话。 很多客户端和开发工具会自动把更多内容一起发给模型。

常见上下文内容

  • 你当前输入的问题
  • 历史聊天记录
  • 系统提示词和角色设定
  • 工具说明、插件说明
  • 项目文件、代码片段
  • 终端输出、报错日志

容易被忽略的内容

  • 客户端自动保留的历史消息
  • AI 编程工具自动读取的项目上下文
  • 你之前让模型生成的大段内容
  • 工具调用结果和中间过程
  • 复制进去但没有清理的大段文本

为什么只问一句话也可能消耗很多?

因为你看到的是“一句话”,但模型收到的可能是“一整包上下文”。

例如你在代码工具里问:

text
帮我修一下这个报错

看起来很短,但工具可能同时带上:

  • 当前文件内容
  • 相关代码片段
  • 项目结构
  • 终端报错日志
  • 之前的对话记录
  • 工具自己的系统提示词

所以真正计费时看的不是你屏幕上那一句话,而是本次请求里模型实际读取的全部 Token。

📌 重点

问题短,不代表输入少。 输入 Token 取决于最终发给模型的完整上下文,而不是只看你手动打了多少字。

上下文长度和费用有什么关系?

上下文越长,通常意味着:

text
输入 Token 更多
→ 输入费用可能更高
→ 如果重复内容命中缓存,缓存读取 Token 也可能更多
→ 如果使用分档模型,可能进入长上下文档位

最终费用通常还是由这些部分组成:

text
最终费用 =
输入费用
+ 缓存读取费用
+ 输出费用
再乘当前令牌分组倍率

如果要换算成人民币:

text
人民币消耗 = 最终美元费用 × 0.2

和 272K 分档有什么关系?

gpt-5.4 这类模型,会根据输入规模判断是否进入分档。

gpt-5.4 输入规模输入价格 / 1M tokens缓存读取 / 1M tokens补全输出 / 1M tokens
输入 ≤ 272K$2.5000$0.2500$15.0000
输入 > 272K$5.0000$0.5000$15.0000

简单理解:

text
上下文不超过 272K:普通档
上下文超过 272K:长上下文档

不是所有模型都有分档

272K 分档不是所有模型都有的规则。 例如 gpt-5.2 是固定单价;gpt-5.4 才有 ≤ 272K> 272K 两个输入档位。

和缓存有什么关系?

上下文越长,缓存越重要。

因为长上下文里经常会有大量重复内容,例如:

  • 固定系统提示词
  • 反复携带的项目文件
  • 多轮对话里的历史内容
  • 工具每次都带上的说明和上下文

如果没有缓存,这些重复内容每次都可能按普通输入价格计算。 本站支持缓存优化,命中缓存后,重复部分可以按更低的缓存读取价格计算。

🚀 为什么本站缓存技术重要?

短问题看模型单价,长上下文看缓存能力。 对代码工具、多轮任务、大段文件分析这类场景来说, 有没有缓存会直接影响长期真实使用成本。

哪些工具更容易产生长上下文?

以下工具因为经常处理代码、文件、历史记录,更容易产生较长上下文:

开发工具类

  • Codex
  • Claude Code
  • Cline
  • OpenClaw
  • 其他会读取项目文件的工具

聊天客户端类

  • ChatBox
  • CherryStudio
  • Kelivo
  • RikkaHub
  • 开启长历史记录的对话工具 这不是说这些工具不好,而是它们为了让模型更懂你的任务,通常会携带更多上下文。 使用这类工具时,更应该关注输入 Token、缓存读取 Token 和使用日志。

怎么降低长上下文成本?

如果你想控制费用,可以这样做:

  • 不要一次性塞入无关大文件。
  • 让工具只读取当前任务相关文件。
  • 长任务分阶段处理,不要无限堆历史上下文。
  • 大型项目先让模型看目录,再按需读取关键文件。
  • 问题解决后开启新对话,避免历史记录越堆越长。
  • 查看使用日志,重点关注输入 Token 和缓存读取 Token。

怎么判断上下文是不是太长?

最可靠的方法是按 使用日志文档 查看控制台记录。

建议重点看:

1. 普通输入 Token

如果这个值很高,说明本次请求读取了大量新内容。

2. 缓存读取 Token

如果这个值很高,说明有大量重复内容命中了缓存读取。

3. 实际扣费

最终对账以日志里的实际扣费为准。

常见误区

上下文长度等于我输入的字数吗?

不等于。 上下文长度看的是模型本次请求实际读取的完整内容,不只是你手动输入的文字。

为什么聊天越久越贵?

因为历史对话可能会被继续带入上下文。 对话越长,模型需要读取的历史内容可能越多,输入 Token 就可能上升。

为什么代码工具更容易消耗 Token?

代码工具为了完成任务,通常会读取项目文件、代码片段、日志、命令输出和历史操作记录。 这些都会进入上下文,导致输入 Token 增加。

有缓存就不用管上下文长度了吗?

仍然要管。 缓存可以降低重复内容的成本,但普通输入、输出长度、模型单价和分组倍率仍然会影响最终扣费。

相关文档

继续查看

爱次元 让 AI 编程更简单