GPT-5.6刚发布:真正该懂的是上下文预算 - 今日头条 摘要
文档概览
文章开头先指出,围绕 GPT-5.6 的舆论焦点很容易只落在“模型又强了多少”,但作者认为更值得普通用户理解的,是 OpenAI 同步把 token 价格和 prompt caching 讲得很明确这件事。
作者明确设定讨论边界:官方 Help Center 说明 GPT-5.6 仍处于 limited preview,preview 阶段并不是普通 ChatGPT 用户都能直接使用。因此本文不是教读者去哪里打开 GPT-5.6,也不是重复介绍它有几档模型;真正借题发挥的重点,是强模型时代用户能力正在迁移,从“会写一句 Prompt”转向“会管理上下文”。
文章的核心论点是:AI 每次工作都要先读取用户给出的上下文,然后才生成输出。随着模型越来越能处理复杂任务,决定效果、成本、等待时间和误解风险的,不只是那一句提示词是否漂亮,而是用户有没有把任务相关资料整理成一张清楚、稳定、少冲突的“资料桌”。
关键事实
1. 本文不是 GPT-5.6 的产品导览,而是借发布讨论长期能力迁移
- 文中先强调 GPT-5.6 目前仍是 limited preview。
- 这意味着文章不承担“现在如何用上 GPT-5.6”的入口说明功能。
- 作者也明确说,这篇不是复述 GPT-5.6 有几档模型。
- 真正要讨论的是更长期的趋势:在强模型时代,普通用户需要从“会写一句 Prompt”升级到“会管理上下文”。
这个设定很重要,因为文章不是在做型号评测,而是在借官方同时公开的价格表和 caching 说明,解释 AI 使用习惯为什么需要改变。
2. token 成本结构在文中的解释
作者用非常贴近日常任务的方式解释 token 成本结构,强调它不是只有开发者才需要知道的 API 计费概念。
- input tokens:用户给模型看的资料
- output tokens:模型生成出来的内容
文中举出的 input tokens 例子包括:
- 课程要求
- 论文草稿
- 面试 JD
- 项目背景
- 写作限制
文中举出的 output tokens 例子包括:
- 总结
- 建议
- 改写稿
作者借此说明,AI 回答不是凭空发生的。它不是无中生有地“知道”你的意图,而是要先读你摆在它面前的资料,再根据这些资料生成新的内容。
3. 价格表的核心解读:不是程序员账单,而是上下文成本提示
文章强调,很多人看到 token 价格会下意识跳过,觉得那只是开发者账单。但作者认为价格表真正重要的地方,并不是让普通用户去背具体数字,而是让所有人看见 AI 工作的基本成本结构。
作者对价格表的核心解读有三层:
- 第一,AI 的回答依赖读取上下文。
- 第二,用户提供的背景越长、越乱,处理成本越高。
- 第三,重复粘贴相同背景,并不是“反正模型早就知道了”,而是会让系统反复处理重复内容。
因此,价格表在这里的意义不是财务视角上的“多少钱”,而是认知视角上的提醒:你给 AI 的每一段背景材料,都是它要读取、消化、纳入推理环境的成本来源。
文章进一步指出,如果每次都把同一段背景反复贴进去,系统就要反复处理重复上下文;如果背景又长又乱,那么成本、等待时间和误解空间都会一起上升。
4. Prompt caching 的边界:短期工程复用,不是长期记忆
文章把 Prompt caching 当成最容易被误解的部分之一。作者指出,很多人会把它理解成“模型终于记住我了”,但这个理解并不准确。
文中给出的更合适类比是:
- 你刚把一份常用资料放在桌上;
- 在接下来一段时间继续使用它;
- 系统可以更便宜、更稳定地复用这部分重复内容。
也就是说,prompt caching 的本质是对重复 prompt 内容的短期工程复用,而不是模型真正形成了关于用户的长期记忆。
文中明确强调以下边界:
- 缓存不是模型长期记忆。
- 缓存不代表模型从此记住你的性格、课程和人生背景。
- 缓存不等于以后永远不用再提供资料。
这部分和 上下文预算 的关系在于:即使有缓存机制,用户仍然需要管理自己提供给模型的资料,因为 caching 解决的是重复内容的工程复用,不解决资料本身是否清楚、是否冲突、是否过载的问题。
重要细节
Prompt caching 在文中保留的具体机制
作者虽然提醒普通用户不需要死记英文术语,但仍保留了几项官方材料中的 caching 细节,用来说明这是一套有明确条件和计费边界的工程机制,而不是“模型突然会记人了”。文中列出的细节包括:
- explicit cache breakpoints
- 30-minute minimum cache life
- cache writes billed at 1.25x uncached input rate
- cached-input reads 继续享受 90% discount
这些细节在文中的作用主要有三点:
- 说明缓存是被设计、被控制、被计费的工程能力;
- 说明它具有时间边界,至少文中提到有 30 分钟的最短缓存生命周期;
- 说明“写入缓存”和“读取缓存”不是同一种成本结构,且 cached-input reads 仍有 90% 折扣。
作者因此提醒读者,不要把这种机制误读为“模型以后永久记得我给过什么资料”。
“上下文预算像一张书桌”的类比
这是全文最核心的直觉模型。作者认为,与其把上下文理解成一个抽象技术名词,不如把它想成一张书桌:你这次把什么资料摆上桌,AI 就看着什么资料做事。
文中对“清楚的书桌”给出的构成包括:
- 目标
- 背景
- 资料来源
- 禁止事项
- 输出标准
在这样的桌面上:
- 模型不需要猜你是谁;
- 不需要自己从一堆旧要求里判断哪个才算数;
- 更容易在明确边界内完成任务。
文中对“混乱的书桌”则描述为:
- 旧要求、新要求混在一起
- 无关材料混入
- 不确定来源混入
作者特别提醒,即使是强模型,在这样的环境里也可能“写得很顺”,但这不等于方向没有偏。也就是说,语言流畅性不能代替任务对齐度,输出看起来像样,不代表上下文组织是正确的。
上下文预算的判断原则
作者没有把“上下文预算”理解成单纯的上下文长度问题,而是把它定义为一种取舍能力。文中的判断原则非常明确:
不是尽量多塞信息,而是判断哪些资料今天必须保留,哪些只是干扰,哪些可以压缩,哪些必须保留原文。
这一定义包含四个动作:
- 保留:对本次任务不可缺少的信息必须完整放入
- 删除:纯干扰内容要去掉
- 压缩:可摘要的信息不必原样堆满
- 原文保留:某些容易失真的材料必须保持原句
这使得 上下文预算 不是“越长越好”的堆料策略,而是资料治理能力。
非 CS 用户同样一直在给 AI 提供上下文
文章专门反驳了一种常见误解:只有写 API、做开发的人才需要关心这些事情。作者指出,很多非计算机专业用户虽然不写代码,但也在不断给 AI 提供上下文。
文中举出的例子包括:
- 改论文
- 准备面试
- 整理读书笔记
对应到这些任务,作者进一步列出需要交给 AI 的上下文内容:
在改论文场景里,需要给出的资料包括:
- 课程要求
- 论文主题
- 老师反馈
- 不能乱改的段落
在准备面试场景里,需要给出的资料包括:
- 岗位 JD
- 个人经历
- 项目细节
- 回答边界
在整理读书笔记场景里,需要说明:
- 哪些是原文
- 哪些是自己的理解
- 哪些地方还不确定
作者强调,如果这些信息每次都想到哪发到哪,AI 就会反复猜背景,由此引发一系列具体风险:
- 把参考资料当成事实
- 把用户的猜测当成结论
- 把用户不想改的部分也一起改掉
这部分实际上说明,AI 上下文资料包 并不是程序员专用技巧,而是面向所有高频使用 AI 的知识工作者的基础能力。