ContextRESEARCH NOTES

CONTEXT ENGINEERING · 论文音频解读

长任务,
一定需要长上下文吗?

You don’t need long context
把整段历史,换成可继续工作的状态;需要原文时,再回去读取。

先听懂,再深入17:13 MIN

听懂短上下文

中文音频解读 · 17 分 13 秒

直接打开音频 ↗下载音频

正在完整加载约 16.5 MB 音频,完成后尝试自动播放;若未响起,点击播放。

已核对全部34段内容覆盖;发音及补录拼接听感尚未人工核验。

arXiv:2611.05306v1 · 2026.11.03探索这项研究

任务很长,不等于每一步都要读很多。

智能体不断调用工具、阅读文件、修改代码,历史便越积越长。这篇论文提出一个具体问题:如果定期把历史整理成任务相关的状态,再用短一些的上下文继续,任务完成质量会下降多少?

作者在长流程任务和长输入任务上,研究“压缩历史”与“按需读文件”的组合。主实验使用 Claude Opus 4.5 与 GPT 5.6 Sol,许多设置保持了接近基线的结果,但模型、任务和上下文预算都会影响结论。

一句话理解

把上下文当工作台,
把文件和可回查记录当资料库。

整理状态,按需读取,再继续行动

01

到阈值,就压缩历史

EoCC 在上下文达到阈值后,让模型写下任务相关状态,再用原任务与压缩结果开始新对话。例如 16K / 12K,分别指总上下文上限和触发压缩的阈值,不是把历史直接截断。

02

长材料留在文件中

长文档不一次性塞入提示,而是放进文件系统,让智能体通过 Bash 工具选择需要的片段。这同时改变了信息获取方式,效果不能全部归因于“摘要压缩”。

03

尝试每次行动后交接

SAC 每次执行一个环境动作、观察结果并更新语义状态,再开始新对话。作者据此提出语义状态空间模型(SSSM)概念,但本文没有训练或验证一个新的 SSSM 模型。

16K总上下文上限 · 12K 触发压缩

在一组明确条件下,结果仍接近基线

在 SWE-bench Verified 的 500 项任务上,16K / 12K 设置下,Claude Opus 4.5 的解决率为 68.8%(完整历史基线 70.0%);GPT 5.6 Sol 为 84.6%(基线 84.4%)。这支持继续研究短上下文工作流,不代表所有模型都能无损压缩。

来源:arXiv 2611.05306v1,§2.4、§3 与附录 C 表 3。两组变化分别为 −1.2、+0.2 个百分点;结果限于该模型、任务、工具框架和压缩策略。
读懂标题,也要读懂限制。
这里的“短”是相对约 256K 以上的窗口而言,常指 16K–50K tokens。附录 D 表 9 的量化 Qwen 3 Coder Next 在 SWE-bench Verified 上,从完整历史基线 53.0% 降至 16K / 12K 设置下的 3.6%。压缩会丢信息,预算不能一刀切。
最高 7 倍,是特定服务条件下的解码成本差距。
图 1 比较 256K 与 16K 窗口:在输入 KV 已缓存、GPU 饱和服务条件下,将峰值解码吞吐折算为每百万输出 tokens 的 GPU 成本。它不包含完整任务的全部成本,也不是 API 账单保证节省 7 倍。额外摘要、工具调用与重复读取,仍需单独计入。

回到原文,读完整细节。

RESEARCH PAPERYou don’t
need long
context.
arXiv:2611.05306v1
03 NOVEMBER 2026 · 31 PAGES
在 arXiv 查看完整 PDF
RESEARCH PAPER · 31 PAGES

You don’t need long context

Peter Belcak · Saurav Muralidharan · Jindong Jiang · Yonggan Fu · Wonmin Byeon · Hanrong Ye · Ryan Angilly · Ali Taghibakhshi · Shih-Yang Liu · Siru Ouyang · Greg Heinrich · Pavlo Molchanov

NVIDIA · 2026

对应 arXiv v1(2026 年 11 月 3 日提交)。原论文标注 © 2026 NVIDIA,arXiv 使用非独占分发许可。本页链接官方 PDF,不重新托管原文;左侧为原创标题卡,并非论文封面截图。简介与音频为中文解读,以原论文为准。

在本页展开 PDF 阅读器

预览从 arXiv 官方加载。如果手机浏览器未显示,请直接打开 PDF,并使用浏览器的保存功能下载。

立川学习札记 · 全部论文 · 京ICP备17044010号-2