上下文窗口管理 Context Window Management
长对话里定期压缩重申关键信息、安排材料位置,防止模型中途"失忆"
✗ 没用这个技巧
(第 40 轮对话) 继续按我们最开始说的那几条要求改。
最早的约定早被挤出注意力范围,
AI 开始偏离最初要求还不自知。
✓ 用了
先压缩上下文:请把本次对话至今的 ① 已确定结论 ② 固定设定 ③ 未解决问题 总结成一份清单; 之后每轮回答前先复述该清单再继续, 清单变化时同步更新。
关键信息被周期性压缩重申,
长对话不再"失忆"。
**上下文窗口管理(Context Window Management)**研究的不是“说什么”,而是“信息在窗口里怎么摆”。模型的注意力对上下文的头尾最敏感,中间容易“看不见”;对话一长,最早的约定会被稀释遗忘。对策就三招:压缩、重申、排位置。
什么时候用:多轮长对话做到十几轮以后;贴大段资料提问;发现 AI 开始“忘记”或“改口”早期约定时立即做。短对话无需折腾。
要点:① 重要材料放提示词末尾、紧贴问题(末尾比开头更靠注意力);② 定期让模型把“已定结论+设定+待办”总结成清单带进后续,等于手动续命记忆;③ 与主题无关的旧内容删掉或摘要替换,窗口是资源,省着用。
复制即用的提示词片段
上下文窗口管理:长对话每隔 N 轮让模型把 "已确定结论 + 固定设定 + 待办"总结成清单并带入后续; 重要资料放在提示词末尾、紧贴问题的位置; 无关历史主动删除,或让模型重新摘要后再继续。