新论文提出上下文语言模型 让模型自己管理上下文文件
一篇新论文提出上下文语言模型(CLM):不再由外部脚手架决定何时压缩、丢弃或重写上下文,而是把上下文直接当作一份文件交给模型,允许它对这份文件做不受限制的修改。这使模型可以自己学出什么值得留在上下文里,也自然延伸到多智能体系统——每个智能体的上下文就是一份并存的文件。
论文称,用现有模型零样本构建的 CLM 在多项任务上超过当前最先进的上下文管理策略:BrowseComp-Plus 上准确率高 11.4% 而 FLOPs 少 21.5%;12 小时的 EdgeBench 得分高 5% 而算力少 59%;在 24 小时的多仓库智能体集群任务上,同等算力下的提升幅度高出 65%。作者团队包括 Nathan Lambert、Luke Zettlemoyer、Mike Lewis 与 Pang Wei Koh。
更值得关注的是可训练性。上下文管理从外部脚手架迁入模型内部之后,既能用自然语言指令在技能优化循环里被引导,最高在留出集上提升 35.9 个百分点;也能直接做在线强化学习,Qwen3.5-9B 在 BrowseComp-Plus 上提升 47.6% 而 FLOPs 减少 12%。团队还为服务侧设计了后缀缓存复用,相同效果下比 SGLang 再省 35% 算力。
如果这条路走得通,长时智能体最大的成本项将不再由框架代码决定,而是成为模型自身能力的一部分——这与工具调用从提示工程内化为模型能力是同一条路径。

