4.26-5.3｜本周 AI 论文精选

4.26 5.3｜本周 AI 论文精选 4.26 5.3｜本周 AI 论文精选 Modified May 6 论文 | 推文 4. RecursiveMAS 多 agent 系统一般会在每一步让 agent 之间传递完整文本消息，这会随着团队规模扩大而带来 token 膨胀、延迟增加和上下文稀释。RecursiveMAS 换了一个问题来问：如果 agent 不是通过文本，而是通过共享潜在空间中的递归计算进行协作，会怎样？该系统把多 agent 团队看成一种递归计算结构，每个 agent 都像递归语言模型（RLM）中的一层，通过迭代传递潜在表示与状态，形成循环式交互过程。少说话，多思考。 • 用 RecursiveLink 实现潜在通信：RecursiveLink 模块会生成潜在思维表示，并在异构 agent 之间直接传递状态，用内部表示取代自然语言消息。这种改动省掉了每一步协作中重复编码和重复解析文本的成本。 • 内外双循环学习：训练算法使用内循环进行逐步潜在更新，外循环负责团队层面的 credit assignment，并在 agent 之间共享基于梯度的更新。这让联合优化变得可行，而不必依赖手工调出来的通信协议。 • 在 9 个基准上取得强势提升：这种方法在多个基准上都取得了明显收益，说明“通过潜在空间协作”不仅是一个优雅想法，也可能是一条可扩展的多 agent 路线。 论文 | 推文 5. OneManCompany 如果你正在构建多 agent 系统，你很可能仍在手工搭建静态组织结构图。而这篇论文认为，它们更应该像劳动力市场。OneManCompany（OMC）用“Talents”取代固定团队，所谓 Talent，是一种可移植的 agent 身份，内部打包了技能和工具；同时系统还提供一个“Talent Market”，让 agent 能按任务被动态招募。其 Explore Execute Review 树搜索会分层拆解工作，再把结果逐层汇总回去。在 PRDBench 上，OMC 达到 84.67% 的成功率，比此前 SOTA 高出 15.5 个点，而且该框架在作者测试的多个案例中都能泛化。 • Talent 作为可移植身份：一个 Talent 会把技能集合、工具访问权限和行为先验打包成可复用的 agent 身份。这样它就可以被招入任何任务，而不需要重连编排图，从而去掉了预连线多 agent 流水线里大部分脆弱性。 • 通过 Talent Market 进行动态招募：任务会发布需求，市场再依据能力匹配度与当前负载，把 Talent 分配到相应角色中。这取代了“每个工作流都设计一支固定团队”的常见做法，转而采用随任务变化而动态组装的方式。 • Explore Execute Review 树搜索：工作会自顶向下拆成子任务，由被招募的 Talent 并行执行，再由上层统一审查与聚合。这种结构天然支持重试、分支探索和交叉校验，而不需要额外手写复杂协调逻辑。 • 为什么重要：预连线的多 agent 流水线一旦任务超出原始设计边界，就会立刻崩掉。把 agent 视为可招募的劳动力，系统就会默认具备自组织与持续改进能力，而这正是开放式 agent 系统真正需要的。 论文 | 推文 6. From Skill Text to Skill Structure SKILL.md 文件把调用接口、执行流程和工具副作用全都缠在同一团自然语言里。随着 skill registry 不断扩张，这会让后续发现与风险审查变得脆弱。本文提出了 SSL，一种三层 typed JSON 表示法，其灵感来自 Schank 和 Abelson 关于 script、MOP 与概念依赖的经典研究。一个基于 LLM 的归一化器会把现有的 SKILL.md 文件自动转换成这种结构，因此采用它并不要求人工重写整套 registry。 • 三层清晰分离：Scheduling 层负责调用信号与触发条件，Structural 层编码执行场景与顺序，Logical 层描述原子动作以及资源和副作用标注。这种拆分让发现、风控和执行能够各自只关注自己真正关心的那一层。 • Skill Discovery 的 MRR 从 0.573 提升到 0.707：把 skill 当作类型化结构而不是自然语言文本来处理，能显著提升检索准确率，甚至在没有任何模型微调前就能成立。提升的根源在于结构化表示揭示了 skill 真正在做什么，而不仅仅是它怎么描述自己。 • 风险评估的 macro F1 达到 0.787：Logical 层里的资源标注让风险分类从 0.744 提升到 0.787。审计人员终于可以直接依据副作用来推理，而不必再从自由文本里硬猜。 • 发布了一个包含 6,184 个 skill 的语料库：作者公开了一个归一化后的数据集，包含 6,184 个 skill、403 个任务查询和 500 个带风险标注的 skill。随着 skill registry 未来跨过百万规模，结构化表示会成为唯一还能让发现与审查保持可行的路径。 论文 | 推文 7. Latent Agents 多 agent 辩论确实能让模型推理得更好，但它也会在给出答案前消耗大量 token 去生成冗长对话记录。Latent Agents 通过一个两阶段微调流程，把整场辩论蒸馏进单个 LLM：模型先学会辩论结构，再通过动态奖励调度和长度裁剪，把这种结构内化。内化后的模型在效果上可以追平甚至超过显式多 agent 辩论，同时最多节省 93% 的 token，这让“辩论级别”的推理第一次真正具备生产规模上的可行性。 • 两阶段内化流程：第一阶段通过对话记录数据的监督微调，教会模型辩论结构，包括轮流发言、批评与修正。第二阶段再用动态奖励调度和长度裁剪，把这套结构压缩进单次推理中，同时保留多 agent 机制带来的收益。 • 最多节省 93% 的 token：内化后的模型在大幅降低推理成本的同时，仍能追平或超过显式辩论的准确率。对于大规模运行推理负载的团队来说，这种效率增益足以让一个研究想法变成默认部署方案。 • 激活引导揭示了 agent 子空间：蒸馏后，“agents” 仍以可识别的电路形式留存在激活空间中。探测结果显示，可以找到对应不同 agent 视角的可解释方向，这意味着即便外部对话记录消失了，内部结构依然存在。 • 一个值得注意的安全角度：当研究者通过蒸馏故意植入恶意 agent 时，使用负向 steering 抑制它们的效果，要比直接对基础模型做 steering 更干净，而且对总体性能的伤害更小。内化后的辩论也许不仅能省 token，还可能成为解释性与对齐研究的有用底座。 论文 | 推文 8. OCR Memory 大多数 agent memory 系统都会把轨迹压缩成文本摘要，然后希望模型还能记住真正重要的内容，而信息损失往往正发生在这一步。OCR Memory 把 agent 的交互历史渲染成带索引视觉锚点的图像，然后通过“定位并转写”的流程来检索：模型先扫描视觉记忆，预测相关区域的索引，再从数据库中逐字取回原始文本。更早的轨迹会以低分辨率缩略图形式存储，并通过主动回忆式上采样恢复细节。在严格上下文限制下，该方法在 Mind2Web 和 AppWorld 上达到了 SOTA。 论文 | 推文 9. When to Retrieve During Reasoning 大多数 RAG 系统只会在模型开始推理前做一次检索。但像 o1 和 R1 这类大型推理模型并不是这样工作的。它们会生成 1.2 万到 2.5 万 token 的长链式推理，并在推理进行到中途时才遇到知识缺口，而那时初始检索窗口早就关上了。ReaLM Retrieve 是一个面向推理过程的检索框架，它会在多步推理过程中注入证据，以推理步骤粒度检测不确定性，并学习“什么时候外部证据真的有帮助”的策略。它在 MuSiQue、HotpotQA 和 2WikiMultiHopQA 上，相比标准 RAG 带来了 +10.1% 的绝对 F1 提升；与固定间隔检索的 IRCoT 相比，检索调用次数还减少了 47%；在 2 至 4 跳的 MuSiQue 上，它只用每题 1.8 次检索就取得了 71.2% 的 F1。 论文 | 推文 10. Co evolving Decisions and Skills 长时程 agent 主要会在两件事上失败：要么决策器不会做有效拆解，要么技能库逐渐过时。本文提出了一个协同进化框架，让 LLM 决策 agent 与动态技能库通过迭代式优化相互促进。决策 agent 负责挑选和串联技能，性能反馈会同时更新策略与技能，而新技能则不是预先手写出来的，而是通过对成功技能序列进行泛化而产生的。大多数长时程 agent 技术栈把技能与决策当成两个彼此分离的优化问题，这正是它们容易早早触顶的原因。协同进化则能在一个统一闭环里，同时得到自适应规划能力和不断增长的可复用行为库；当任务结构并非预先定义好时，例如机器人、游戏 agent 和复杂规划，这才是你真正想要的能力。 论文 | 推文 论文 推文 论文 推文 论文 推文 论文 推文 论文 推文 论文 推文 论文 推文 论文 推文 论文 | 推文 论文 推文 4. RecursiveMAS 多 agent 系统一般会在每一步让 agent 之间传递完整文本消息，这会随着团队规模扩大而带来 token 膨胀、延迟增加和上下文稀释。RecursiveMAS 换了一个问题来问：如果 agent 不是通过文本，而是通过共享潜在空间中的递归计算进行协作，会怎样？该系统把多 agent 团队看成一种递归计算结构，每个 agent 都像递归语言模型（RLM）中的一层，通过迭代传递潜在表示与状态，形成循环式交互过程。少说话，多思考。 • 用 RecursiveLink 实现潜在通信：RecursiveLink 模块会生成潜在思维表示，并在异构 agent 之间直接传递状态，用内部表示取代自然语言消息。这种改动省掉了每一步协作中重复编码和重复解析文本的成本。 • 内外双循环学习：训练算法使用内循环进行逐步潜在更新，外循环负责团队层面的 credit assignment，并在 agent 之间共享基于梯度的更新。这让联合优化变得可行，而不必依赖手工调出来的通信协议。 • 在 9 个基准上取得强势提升：这种方法在多个基准上都取得了明显收益，说明“通过潜在空间协作”不仅是一个优雅想法，也可能是一条可扩展的多 agent 路线。 论文 | 推文 论文 推文 5. OneManCompany 如果你正在构建多 agent 系统，你很可能仍在手工搭建静态组织结构图。而这篇论文认为，它们更应该像劳动力市场。OneManCompany（OMC）用“Talents”取代固定团队，所谓 Talent，是一种可移植的 agent 身份，内部打包了技能和工具；同时系统还提供一个“Talent Market”，让 agent 能按任务被动态招募。其 Explore Execute Review 树搜索会分层拆解工作，再把结果逐层汇总回去。在 PRDBench 上，OMC 达到 84.67% 的成功率，比此前 SOTA 高出 15.5 个点，而且该框架在作者测试的多个案例中都能泛化。 • Talent 作为可移植身份：一个 Talent 会把技能集合、工具访问权限和行为先验打包成可复用的 agent 身份。这样它就可以被招入任何任务，而不需要重连编排图，从而去掉了预连线多 agent 流水线里大部分脆弱性。 • 通过 Talent Market 进行动态招募：任务会发布需求，市场再依据能力匹配度与当前负载，把 Talent 分配到相应角色中。这取代了“每个工作流都设计一支固定团队”的常见做法，转而采用随任务变化而动态组装的方式。 • Explore Execute Review 树搜索：工作会自顶向下拆成子任务，由被招募的 Talent 并行执行，再由上层统一审查与聚合。这种结构天然支持重试、分支探索和交叉校验，而不需要额外手写复杂协调逻辑。 • 为什么重要：预连线的多 agent 流水线一旦任务超出原始设计边界，就会立刻崩掉。把 agent 视为可招募的劳动力，系统就会默认具备自组织与持续改进能力，而这正是开放式 agent 系统真正需要的。 论文 | 推文 论文 推文 6. From Skill Text to Skill Structure SKILL.md 文件把调用接口、执行流程和工具副作用全都缠在同一团自然语言里。随着 skill registry 不断扩张，这会让后续发现与风险审查变得脆弱。本文提出了 SSL，一种三层 typed JSON 表示法，其灵感来自 Schank 和 Abelson 关于 script、MOP 与概念依赖的经典研究。一个基于 LLM 的归一化器会把现有的 SKILL.md 文件自动转换成这种结构，因此采用它并不要求人工重写整套 registry。 • 三层清晰分离：Scheduling 层负责调用信号与触发条件，Structural 层编码执行场景与顺序，Logical 层描述原子动作以及资源和副作用标注。这种拆分让发现、风控和执行能够各自只关注自己真正关心的那一层。 • Skill Discovery 的 MRR 从 0.573 提升到 0.707：把 skill 当作类型化结构而不是自然语言文本来处理，能显著提升检索准确率，甚至在没有任何模型微调前就能成立。提升的根源在于结构化表示揭示了 skill 真正在做什么，而不仅仅是它怎么描述自己。 • 风险评估的 macro F1 达到 0.787：Logical 层里的资源标注让风险分类从 0.744 提升到 0.787。审计人员终于可以直接依据副作用来推理，而不必再从自由文本里硬猜。 • 发布了一个包含 6,184 个 skill 的语料库：作者公开了一个归一化后的数据集，包含 6,184 个 skill、403 个任务查询和 500 个带风险标注的 skill。随着 skill registry 未来跨过百万规模，结构化表示会成为唯一还能让发现与审查保持可行的路径。 论文 | 推文 论文 推文 7. Latent Agents 多 agent 辩论确实能让模型推理得更好，但它也会在给出答案前消耗大量 token 去生成冗长对话记录。Latent Agents 通过一个两阶段微调流程，把整场辩论蒸馏进单个 LLM：模型先学会辩论结构，再通过动态奖励调度和长度裁剪，把这种结构内化。内化后的模型在效果上可以追平甚至超过显式多 agent 辩论，同时最多节省 93% 的 token，这让“辩论级别”的推理第一次真正具备生产规模上的可行性。 • 两阶段内化流程：第一阶段通过对话记录数据的监督微调，教会模型辩论结构，包括轮流发言、批评与修正。第二阶段再用动态奖励调度和长度裁剪，把这套结构压缩进单次推理中，同时保留多 agent 机制带来的收益。 • 最多节省 93% 的 token：内化后的模型在大幅降低推理成本的同时，仍能追平或超过显式辩论的准确率。对于大规模运行推理负载的团队来说，这种效率增益足以让一个研究想法变成默认部署方案。 • 激活引导揭示了 agent 子空间：蒸馏后，“agents” 仍以可识别的电路形式留存在激活空间中。探测结果显示，可以找到对应不同 agent 视角的可解释方向，这意味着即便外部对话记录消失了，内部结构依然存在。 • 一个值得注意的安全角度：当研究者通过蒸馏故意植入恶意 agent 时，使用负向 steering 抑制它们的效果，要比直接对基础模型做 steering 更干净，而且对总体性能的伤害更小。内化后的辩论也许不仅能省 token，还可能成为解释性与对齐研究的有用底座。 论文 | 推文 论文 推文 8. OCR Memory 大多数 agent memory 系统都会把轨迹压缩成文本摘要，然后希望模型还能记住真正重要的内容，而信息损失往往正发生在这一步。OCR Memory 把 agent 的交互历史渲染成带索引视觉锚点的图像，然后通过“定位并转写”的流程来检索：模型先扫描视觉记忆，预测相关区域的索引，再从数据库中逐字取回原始文本。更早的轨迹会以低分辨率缩略图形式存储，并通过主动回忆式上采样恢复细节。在严格上下文限制下，该方法在 Mind2Web 和 AppWorld 上达到了 SOTA。 论文 | 推文 论文 推文 9. When to Retrieve During Reasoning 大多数 RAG 系统只会在模型开始推理前做一次检索。但像 o1 和 R1 这类大型推理模型并不是这样工作的。它们会生成 1.2 万到 2.5 万 token 的长链式推理，并在推理进行到中途时才遇到知识缺口，而那时初始检索窗口早就关上了。ReaLM Retrieve 是一个面向推理过程的检索框架，它会在多步推理过程中注入证据，以推理步骤粒度检测不确定性，并学习“什么时候外部证据真的有帮助”的策略。它在 MuSiQue、HotpotQA 和 2WikiMultiHopQA 上，相比标准 RAG 带来了 +10.1% 的绝对 F1 提升；与固定间隔检索的 IRCoT 相比，检索调用次数还减少了 47%；在 2 至 4 跳的 MuSiQue 上，它只用每题 1.8 次检索就取得了 71.2% 的 F1。 论文 | 推文 论文 推文 10. Co evolving Decisions and Skills 长时程 agent 主要会在两件事上失败：要么决策器不会做有效拆解，要么技能库逐渐过时。本文提出了一个协同进化框架，让 LLM 决策 agent 与动态技能库通过迭代式优化相互促进。决策 agent 负责挑选和串联技能，性能反馈会同时更新策略与技能，而新技能则不是预先手写出来的，而是通过对成功技能序列进行泛化而产生的。大多数长时程 agent 技术栈把技能与决策当成两个彼此分离的优化问题，这正是它们容易早早触顶的原因。协同进化则能在一个统一闭环里，同时得到自适应规划能力和不断增长的可复用行为库；当任务结构并非预先定义好时，例如机器人、游戏 agent 和复杂规划，这才是你真正想要的能力。 论文 | 推文 论文 推文 原帖链接：https://x.com/dair ai/status/2050956647909015788 原帖链接：https://x.com/dair ai/status/2050956647909015788 1. Agentic Harness Engineering 大多数 coding agent 的 harness 现在仍然靠人工调参，或者靠脆弱的反复试错式自进化勉强维持。本文提出了 Agentic Harness Engineering（AHE），一个让 harness 演化过程变得可观测、可证伪的框架。AHE 将系统拆成三层：以可回滚文件形式保存的组件层、从数百万条轨迹 token 中压缩出的结构化证据层，以及写成预测并接受任务结果检验的决策层。这样一来，每一次修改都会变成一份可以验证、也可以撤销的契约。 • 三层演化模型：组件、经验和决策都被视为一级工件。组件是带版本的文件，经验是从完整轨迹日志中压缩出的证据，决策则是附带预期结果的显式假设。这种结构把原本像黑盒一样的 harness 调优，变成了可审计的工程闭环。 • Terminal Bench 2 上的 Pass@1 提升：Pass@1 在 10 轮迭代中从 69.7% 提升到 77.0%，超过人工设计的 Codex CLI（71.9%）以及 ACE、TF GRPO 等自进化基线。在 SWE bench verified 上，该框架还比初始 harness 少用了 12% 的 token。 • 跨模型迁移能力：演化后的 harness 在不同模型家族上仍能迁移，带来 +5.1 到 +10.1 个点的提升，这说明这些优化更偏结构性，而不是对某个特定底座模型过拟合。这正是 harness engineering 真正想要的属性。 • 为什么重要：在大多数 agent 系统中，harness 工作才是最大的隐性成本。AHE 是第一套可信的方案，让 harness 可以在不滑向噪音的前提下自我改进，因此它是本周最重要的 agent 系统论文。 论文 | 推文 论文 推文 2. AgenticQwen 30B A3B 阿里巴巴展示了一个仅有 30B 参数、但推理时只激活 3B 参数的 MoE 模型，可以在真实工具使用任务上追平 Qwen3 235B。AgenticQwen 30B A3B 在 TAU 2 和 BFCL V4 Multi Turn 上取得了 50.2 的平均分，而 AgenticQwen 8B 为 47.4。两者都比原始 Qwen 基线高出一倍以上，并且弥合了与 235B 模型之间的大部分差距。其核心做法是并行运转两个强化学习飞轮，其中模拟用户会主动误导 agent。 • 从自我失败中提炼的推理飞轮：第一个闭环会挖掘模型自己的错误，并在每一轮把这些错误转化为更难的推理问题。随着模型变强，训练分布也会自动变难，因此不再需要新增人工整理的推理数据。 • 面向工具使用的 agent 飞轮：第二个闭环会把简单的线性工具使用轨迹扩展成多分支行为树。模拟用户会测试模型在误导性指令、目标模糊和工具调用失败时的恢复能力，而这些恰恰是普通监督微调最容易失效的地方。 • 面向生产 agent 的真实效率：一个 30B 的 MoE 模型在推理时只激活 3B 参数，其服务成本明显低于 235B 的稠密模型或同级别 MoE 替代方案。对于工具使用型 agent 团队来说，这类效率优势足以改变部署决策。 论文 | 推文 论文 推文 3. Agentic World Modeling 这篇由 40 位作者共同完成的大型综述，给出了迄今为止 agent 研究里最清晰的 world model 分类体系。论文提出了一个“按规律分层级”的框架，涵盖三种能力层级与四类规律体系，并综合梳理了 400 多篇工作与 100 多个代表性系统，覆盖基于模型的强化学习、视频生成、网页与 GUI agent、多 agent 仿真以及科学发现。随着 agent 从聊天机器人走向任务完成者，瓶颈正从语言转向环境，而这篇论文第一次为原本彼此割裂的研究群体提供了共享词汇。 • 三个能力层级：L1 Predictor 处理单步状态转移，L2 Simulator 负责多步、受动作条件约束的 rollout，L3 Evolver 则会随着世界变化而自我修正。这个层级结构让我们更容易定位现有系统，也更容易看清真正的能力缺口在哪里。 • 四类规律体系：物理规律、数字规律、社会规律和科学规律，会分别对 world model 提出不同约束。该框架将它们视为正交维度，因此也解释了为什么一个强大的物理模拟器，依然可能在社会或数字任务上失效。 • 以失败模式为核心的视角：论文不是只按应用场景来归类，而是强调不同 world model 会在哪些地方失败。对于构建 agent 的人来说，这种视角比“它能做什么”更有价值，因为它更贴近系统设计决策。