冻底座、改脚手架：2026 年 Agent 和 LLM 公开增量在哪一层

00一页结论

过去一年公开文献里，仓库能找到、数字能回原文的增量，集中在三件事：把超长提示当外部环境（Recursive Language Models）、把工作记忆主动折叠（Context-Folding / AgentFold）、在冻模型上进化 harness 和技能包（Recuris / RRSI / Harness-Zero）。开放递归自改进还没来：评估器几乎都冻在圈外。OPD 被一篇 2026-08 预印本质疑「到底有没有在蒸馏」；同时另一条线把优化过的 harness 蒸进权重，部署时拆掉专用脚手架。

01地图：钱和论文实际花在哪一层

把 2026 年公开工作按「改了什么」切开，四层就够用。新词第一次出现时在括号里写一句人话。

02LLM：1M 窗能用，是因为没把 1M 都塞进注意力

底座这边 2026 年公开的硬东西，集中在两处：超长上下文怎么处理，以及每用户解码怎么加速。Kimi K3 和 DeepSeek-V4 把 1M 写成默认；让 1M 窗跑得动的，是混合注意力 / 压缩注意力，加上投机解码。

超长提示放进外部环境

Recursive Language Models（RLM，arXiv:2512.24601，2025-12，v3 在 2026-05）把长提示放进外部 REPL，模型用程序去切片段、再递归调用自己。摘要写：能处理比模型上下文窗口高一个数量级以上的输入；在四个长上下文任务上，相对 GPT-5 中位，比 compaction 高 26%，比带子调用的 CodeAct 高 130%，比 Claude Code 高 13%，成本相当。他们还训了第一个围绕 RLM 的小模型 RLM-Qwen3-8B，四任务中位比底座 Qwen3-8B 高 28.3%，三个任务上接近原样 GPT-5。这是推理范式，不是新预训练。

Context-Folding：32K 工作窗打过 327K ReAct

Context-Folding（arXiv:2510.11967，项目页写 ICML 2026）让模型先 branch 出子轨迹做局部子任务，完成后再 return，中间步折叠成摘要。配套的 FoldGRPO 用 token 级过程奖励训这个动作。项目页表格（BrowseComp-Plus N=150，SWE-Bench Verified N=500）：

同系列的 AgentFold（arXiv:2510.24699）走多尺度主动折叠：细粒度压缩保细节，深层合并抹掉整段子任务。AgentFold-30B-A3B 只做 SFT（摘要强调没有继续预训练、没有 RL），BrowseComp 36.2%、BrowseComp-ZH 47.3%，BrowseComp 36.2% 超过 DeepSeek-V3.1-671B-A37B 的 30.0%；BrowseComp-ZH 47.3% 低于它的 49.2%。两边都超过 o4-mini。BrowseComp 和 BrowseComp-Plus 不要混用。

开源 1M 底座：K3 和 V4

Kimi K3（arXiv:2607.24653）：2.8T 总参数、104B 激活、原生视觉、1M 窗。每块 3 层 Kimi Delta Attention + 1 层 Gated MLA；Attention Residuals 让当前层选择性看前面所有块；Stable LatentMoE 每 token 激活 16 / 896 个路由专家。摘要和正文都写相对 Kimi K2 大约 2.5× 的总体缩放效率——这是缩放律曲线上的训练效率，不是推理 tok/s。MoonViT-V2 从零用 next-token 训，不用 SigLIP 初始化。权重公开。

DeepSeek-V4 Preview（HF 模型卡 / arXiv:2606.19348）：Pro 1.6T / 49B 激活，Flash 284B / 13B，1M 是官方服务默认。混合注意力 CSA + HCA：1M 下 Pro 相对 V3.2 只要 27% 的单 token 推理 FLOPs、10% 的 KV cache。预训练超过 32T token；后训练是分域专家（SFT + GRPO）再 on-policy distillation 合成。厂商自报：Pro-Max 在 LiveCodeBench Pass@1 93.5、Codeforces 评分 3206；SWE Verified 80.6，和表格里的 Opus-4.6 Max 80.8、Gemini-3.1-Pro High 80.6 同一档。这些是厂商表，标 B。

Qwen3.5-Omni（arXiv:2604.15804）：Thinker 和 Talker 都用 Hybrid Attention MoE，256k；Plus 自称在 215 个音频 / 音视子任务 SOTA，部分音频任务超过 Gemini-3.1 Pro。ARIA 用来对齐文本和语音单元，压流式合成的不稳。能吃 10 小时以上音频、400 秒 720P@1fps。和 Agent 运行时关系弱，列在这里只因为 2026 开源多模态底座里它把语音交互做成了产品形态。

DSpark：加在现有权重上的投机解码

DSpark 论文（arXiv:2607.05147）摘要写得很干净：并行草稿缺 token 间依赖，无差别验证会在高并发时浪费 batch。它用半自回归（并行骨干 + 轻量顺序模块）补块内依赖，再用置信度调度验证长度。关键句：部署在 DeepSeek-V4 线上、真实用户流量下，相对生产基线 MTP-1，在匹配吞吐时把每用户生成速度提高 60% 到 85%（摘要部署在 V4 线上；二手转述把 Flash 写成 60–85%、Pro 写成 57–78%，正文只取摘要原句）。HF 上的 DeepSeek-V4-Pro-DSpark 模型卡第一句就是「不是新模型，是同一份权重加了一块投机解码模块」。

另一组常被转发的数字来自 Inferact 的 Kimi-K3-DSpark 卡：4 × GB300、bs=1、tensor-parallel-size=16、低熵推理峰值 464 tok/s/user；14 个基准、每次猜 7 个 token，temperature=0 时平均接受长度 3.85。这是第三方草稿模型 + vLLM，硬件和流量都不是 DeepSeek 论文里的线上。两套数不要并成「开源模型 464、闭源 60–85%」。

03Agent：长程失败主要出在记忆和控制流

2026 年 8–9 月连着三篇把这件事写清楚了：长程 Agent 的增益可以发生在冻住的底座外面。Recuris 改技能记忆，RRSI 改整个 harness 还加正则，Harness-Zero 再把改出来的习惯蒸回权重。

Recuris：经验记忆和工作记忆绑在一起改

Recuris（arXiv:2608.24876）把 Agent 的记忆拆成技能记忆（跨任务留下的程序）和工作记忆（当次调用里被验证过才改）。失败轨迹被写成结构化证据，固定的 Meta-Agent（他们用 Claude Code 搭）把失败归因到具体记忆组件，验证门过了才写入。底层 LLM 和外层改进程序都冻着，递归只发生在记忆控制层。

四个长程榜：τ²-Retail、τ²-Airline、SkillFlow、Terminal-Bench 2.1。十个模型，从 Granite-4.1-3B 到 Claude Opus 5。完成的 37 对模型–榜单里，35 对任务成功率上升。

• τ²-Retail：GPT-5.6 Sol 58.3→76.1（+17.8，bootstrap 95% CI 不含 0）；Claude Opus 5 72.4→87.9（+15.6）。部署模型 Doubao-2.0-Pro 58.1→81.4（+23.3）。
• SkillFlow：Qwen3.6-27B 42.2→58.7（+16.6）；Qwen3.6-35B 35.3→48.8（+13.5）。SkillFlow 没有留出任务划分，测的是「在部署模型上长出的包，换到没参与进化的模型上还管不管用」，「没见过的任务」是另一种测法。
• 最长任务上优势到 +32.2 分；常见长程失败最多降 80%。把已知故障注入工作包、三分类定位：结构化轨迹 64.8%，只看任务成败 13.0%（低于恒猜地板 33.3%）。这是合成注入，不是自然失败轨迹上的定位率。
• Terminal-Bench 2.1 没有跨任务共享结构，跨任务进化十三轮一个补丁都没过门。那里能用的是任务内重试。

固定一份技能记忆、不让它改，增益的置信区间含 0。需要会改自己的记忆；多贴一段静态技能不够。

RRSI：自我改进会记榜，要正则

Google Research 的 RRSI（arXiv:2609.24972，2026-09-21；代码在 google-research/rrsi）：harness 的提示、控制流、工具、记忆、上下文管理都可以改，但提案端用退火预算限制一次捆多少编辑，并鼓励没走过的轨迹；选择端加 critic 挡榜单特化提案，pruner 丢掉太小、太贵、已经没用的改动。政策模型全程冻 Claude Opus 4.8；提案、轨迹分析和泄漏 critic 也是 Opus 4.8。

三个进化域，五个分布外榜：

摘要里的「最高 +14.1」对应 Gemini 3.5 Flash 在 Terminal-Bench 2.1：64.6→78.7。同一套正则，换更强策略模型，进化集涨幅变小、分布外仍为正。论文点名 AHE、TTHE 等先验进化在分布外会掉到初始 harness 以下。相对未正则进化，RRSI 的 harness 少用 30% 策略 token。代码：github.com/google-research/rrsi。

Harness-Zero：脚手架可以卸掉

Harness-Zero（arXiv:2609.24974）问的是下一问：优化过的 harness 绑在部署上，域一变就要维护一堆专用脚手架。他们用 agent-as-harness——旁边一个「harnessing agent」在学生动作执行前改学生回复，改完的轨迹拿去 SFT。部署时专用 harness、参考 harness、harnessing agent 全部拆掉，只留一个最小 mini-SWE-agent（一个 Bash 工具）。

训练学生是 Qwen3.5-9B，harnessing agent 是 GPT-5.6 Sol，harness 进化用 Kimi K3。三个测试集：

宏平均 23.3→44.3，分母是三个测试集等权。USPTO 上蒸馏后 30.0，仍低于带着进化 harness 的 38.0，所以不是每个域都能卸脚手架还涨。另外，无训练、同一份进化 harness 时，agent-as-harness 六项平均 81.1%，code-as-harness 78.1%（相对最小 harness 的 68.6%）。28 种 harness 诱导、底座没有的行为，平均收回 82.3%。

04训练侧：OPD 被拆，harness 蒸馏补上另一头

OPD 的配方是学生采样、教师在同一前缀上给 token 级优势。2026-08 的 OPSA 论文（arXiv:2608.31046）直接问：这还算蒸馏吗？

他们把「噪声」定义成：对可验证的最终答案 token，教师优势符号和正误不一致。Qwen3-1.7B 学生，教师从 4B 到 235B-A22B，噪声率 30.6% → 34.7% → 50.6%。最大教师几乎一律给负优势（正确 97.8% 为负，错误 96.6% 为负）。只拿噪声轨迹训、去掉噪声训、标准 OPD，最后精度差不多。再拆：51.7% 的 token 优势绝对值低于 10⁻⁴；只训学生 logp 最低的 20%，就能追上全 token OPD；把优势换成固定 −0.5，也能追上；换成固定正优势，策略崩溃。

他们的结论是：OPD 的增益主要来自压低学生自己采样到的低概率 token，不需要教师。OPSA 按熵调节负优势，高熵位置压得更狠。相对 Qwen3-1.7B 底座，AIME24 Avg@32 +35.41（相对 +263%），三个数学榜 Pass@32 都翻倍以上；比 OPD 在 AIME24 Avg@32 高 16.77。这是 1.7B、数学推理、预印本。它动摇的是「OPD 等于把教师知识搬过来」这句话，不是生产里带教师蒸馏的工程账本——TML 那套步数 / 算力对照不在这篇里。

Harness-Zero 走相反方向：承认 harness 里有可迁移的行为，把它写成权重。和 OPSA 不要合成「以后都不要教师」；一个在数学 token 级 RL 上拆教师，一个在工具 Agent 上把外部规则内化。

05和 RSI / OPD 的关系：增量还是开放

沿用 RSI 长文的切法。有界自精炼：改进发生在冻住的评估器外面。开放 RSI：改进器和 / 或评估标准也进搜索空间。

DGM（Sakana，arXiv:2505.22954，ICLR 2026）还是这条线上的会议版本：SWE-bench 20.0%→50.0%，Polyglot 14.2%→30.7%，底座冻结，工具能跨模型搬。摘要写的是改编码 Agent 的工具和上下文管理，并在编码榜上做经验验证；没有写在训新底座。

OPD 这条线 2026 年同时出现两股力：一边还在出 OPD+ / OPRD / AOPD 变体（蒸馏长文已列），一边 OPSA 说增益可能根本不来自教师。工程上能做的，是把「教师优势符号和 verifier 不一致」当成必看指标；这条日志高，再考虑对照实验。OPD 先继续跑。

06一到两个季度观察清单

下面每条都写了「看见什么算发生了」。没有内部排期，也没有要谁去执行——这是观察，不是立项。

07出处与未核实