4.19-4.26｜本周 AI 论文精选

4.19 4.26｜本周 AI 论文精选 4.19 4.26｜本周 AI 论文精选 Modified April 28 4. Skill RAG 大多数 RAG 系统无论模型是否真的需要帮助，都会对每个 query 进行检索。这在模型本来就知道答案时是一种浪费，而在模型确实不知道时，往往又已经太晚。本文提出了 Skill RAG，一种面向 failure state 的检索系统：它通过 hidden state probing 检测 LLM 是否正在逼近知识性失败，然后再把 query 路由到一个与该缺口相匹配的专门检索策略上。 • 用 hidden state probing 作为检索触发器：Skill RAG 在 LLM 的 hidden representation 上训练了一个轻量 probe，用来预测模型是否即将答错当前 query。只有在 probe 判定失败风险超过阈值时，系统才会触发检索，从而减少不必要的 search call，同时保住真正需要外部知识时的答案质量。 • 与失败类型匹配的检索策略：不同的失败模式，比如 factual recall、多跳推理、temporal knowledge，会被分别路由到不同的 retrieval “skills”，而不是统一交给一个通用 retriever。每个 skill 都被看作一个独立组件，agent 可以按需在它们之间选择，这也呼应了更大的趋势：RAG 正在从单体流水线，演化成可组合的原语集合。 • 跨基准的一致增益：在 HotpotQA、Natural Questions 和 TriviaQA 上，Skill RAG 相比统一 RAG baseline 在准确率和效率上都更好。这里效率的意义与准确率同样重要：当系统能跳过那些模型本来就会答的问题时，单 query 的检索成本会显著下降。 • RAG 设计方式的转向：这项工作进一步强化了 RAG 正在前往的方向：从一个单一的大管线，转向一组可被 agent 动态挑选的 retrieval skills。何时检索、检索哪一种，正在成为最核心的设计问题。 论文 | 推文 5. Self Generated World Knowledge 我们距离“能够自我生成世界知识的 agent”还有多远？本文提出了一种 outcome based reward，用来衡量 agent 自行生成的 world knowledge 究竟能在多大程度上提升任务成功率。随后使用这个信号进行训练，并在推理阶段去掉外部指导。最终得到的 14B 模型在 web navigation 上超过了 Gemini 2.5 Flash，并在 WebVoyager 与 WebWalker 基准上带来了 20%+ 的提升。 • 面向知识的 outcome based reward：不同于根据人工标注参考答案为知识打分，这里的 reward 直接看“这些生成出来的知识，是否真的提升了 agent 在任务中的成功率”。这样系统就能在没有外部 oracle 的前提下，学会判断哪些内部生成的事实值得保留。 • 多阶段训练流水线：方法将 instruction and trajectory 数据集上的监督微调，与 reinforcement rejection sampling 结合起来。系统会根据 outcome reward 对轨迹排序，再用最佳轨迹来更新 policy。训练循环会在生成、奖励评分和 rejection sampling 之间不断迭代，直到模型内化出真正有效的 knowledge use 行为。 • 推理阶段的 knowledge enhanced execution：在推理时，外部环境反馈环会被移除。agent 会自我生成 world knowledge，用这些知识做计划，再执行任务，整个过程中不再依赖人工或额外奖励信号。这也是这套方法能真正部署，而不只是便于测量的关键。 • 环境设计替代人工标注：如果 agent 能通过探索环境而不是依赖人工标注奖励来稳定自我提升，那么扩展 agentic systems 的瓶颈就会从数据标注，转向环境设计。这与整个领域的大方向高度一致，也给了实践者一套具体可跟进的方法。 论文 | 推文 6. Self Evolving Logic Synthesis 像 ABC 这样的 EDA 工具，几十年来一直是由人类手工调优的。NVIDIA 展示了它们其实可以自己演化。本文提出了首个 self evolving logic synthesis 框架：一个 multi agent LLM 系统，它会自主改进整个 ABC 代码库，生成并测试候选优化序列，在标准 benchmark circuits 上验证效果，再把改进合并回基础工具中。整个过程中没有人工工程师在环。 • 对真实 EDA toolchain 的多代理改进：框架给不同 agent 分配 exploration、synthesis 和 self review 任务。它们会直接读取并修改 ABC 源码，提出新的优化流程，并在 EPFL、IWLS、VTR 等 benchmark circuits 上运行验证。同时还在流水线中引入了三轮人类领域知识。 • 相对于手工调优 baseline 的实测提升：演化后的 ABC 变体在面积、延迟和开关活动等指标上都超过了手工调优参考版本，而且这种提升在 sensitivity analysis 下仍然成立。这不是纸面优化，而是作用于半导体工业依赖工具的真实增益。 • 演化的是代码库，而不只是 prompt：这些 agent 直接修改的是 ABC 的代码库本身，而不是某层配置壳子。这是 self improving agent 这条线的重要延伸：被改进的对象是真实生产代码，而不是 prompt 或 policy。 • 可泛化到领域工具的通用蓝图：如果 agent 能在没有人工工程参与的情况下演化一个基础性的半导体工具，那么同样的模式就可以迁移到任何大型、领域专属的代码库。这使它成为自我演化 agent 方向在基础设施级别的一个非常具体的落地例子。 论文 | 推文 7. Stateless Decision Memory 当前最有意思的 AI agent 论文，很多都在讲能力；而这篇讲的是 plumbing，但它的重要性可能远超表面。Stateful agents 无法横向扩展。一旦你需要数千个并发 agent instance 在多个 container 上运行，持久化的 per agent state 就会成为瓶颈。本文提出的方案，是用 immutable decision logs 替代 active memory，并借用了 distributed systems 中 event sourcing 的思想。 • 用决策日志替代实时状态：每一次 agent 决策、tool call 和 observation，都会被追加进一个不可变事件日志中。任何实例都可以在需要时通过 replay 日志重建上下文，从而把决策逻辑和存储解耦，让 agent 无需 warmup 就能在任意节点启动。 • 天然具备企业级属性：与 summary only、SAM 和 vector memory baseline 相比，Decision Process Memory（DPM）是唯一一种同时支持 append only logging、stateless projection、可审计的 rationale trails、仅凭日志进行 replay、多租户隔离以及 per event provenance 的架构。而这些恰恰都是受监管企业环境中的硬性要求。 • 在紧预算下性能更强：在 FRP、RCS 和 EDA 评测里，当 memory budget 受限时，DPM 相对 summary only memory 有明显优势，而且预算越紧，差距越大。当预算足够宽松时，几种方案的表现会逐渐趋同，这正符合“规模不再是约束”时的直觉。 • 面向受监管部署的蓝图：对那些要在金融、医疗等强合规行业里落地 agent 的团队来说，这篇论文几乎可以当成一份实操规范来看。它没有重新发明一套全新的 memory 范式，而是把 distributed systems 里成熟的方法直接迁移到 agent memory 上，因此也更可能经得起时间考验。 论文 | 推文 8. There Will Be a Scientific Theory of Deep Learning 这是一篇立场论文，主张真正的 deep learning 科学理论其实已经开始成形，它被作者们统称为 “learning mechanics”。他们总结出五条正在汇聚的研究方向：可求解的理想化模型、可处理的数学极限、简单的宏观规律、超参数理论，以及跨系统的普适行为。这些方向有一个共同特征：它们都在描述训练动力学、关注粗粒度的整体统计量，并且承诺给出可证伪的定量预测。整篇论文是在回应一个长期质疑：deep learning 是否真的可能拥有基础理论？作者的答案是肯定的，并且他们把 learning mechanics 定位为 mechanistic interpretability 的补充，而不是竞争对手。 论文 | 推文 9. MASS RAG 现实中的很多 RAG 失败，并不是没检索到“技术上相关”的文档，而是检索到了在具体语境下毫无用处的文档，然后再强行让一个模型把它们揉成答案。MASS RAG 是一个面向 retrieval augmented generation 的 multi agent synthesis 框架：它把职责拆给不同的专门 agent，分别负责检索候选文档、评估这些文档对当前 query 的真实相关性，以及基于真正有贡献的证据来综合最终答案。它不再让一个模型包打天下，而是把责任拆解给协同 evaluator，这也正符合 deep research agent 方向正在演进的路线。 论文 | 推文 10. Diversity Collapse in Multi Agent LLMs 几乎所有 multi agent system 的叙事里，都默认这些 agents 会探索不同的解法。但这篇论文表明，随着时间推移，它们会收敛到几乎相同的输出，即便底层架构不同、初始 prompt 也不同。作者把这个现象称为 diversity collapse。根本原因是结构性耦合：共享上下文、共享任务描述和相互反馈，会把所有 agent 都拉向同一个 attractor。他们用 Vendi score 等指标做了正式度量，结果表明这种 homogenization 不是错觉。对实践者来说，这意味着 multi agent 架构如果用于 brainstorming、假设生成和创意探索，必须显式设计出隔离推理阶段、解耦评估过程，以及异质化的初始条件，否则很快就会失去多样性。 论文 | 推文 论文 推文 论文 推文 论文 推文 论文 推文 论文 推文 论文 推文 论文 推文 4. Skill RAG 大多数 RAG 系统无论模型是否真的需要帮助，都会对每个 query 进行检索。这在模型本来就知道答案时是一种浪费，而在模型确实不知道时，往往又已经太晚。本文提出了 Skill RAG，一种面向 failure state 的检索系统：它通过 hidden state probing 检测 LLM 是否正在逼近知识性失败，然后再把 query 路由到一个与该缺口相匹配的专门检索策略上。 • 用 hidden state probing 作为检索触发器：Skill RAG 在 LLM 的 hidden representation 上训练了一个轻量 probe，用来预测模型是否即将答错当前 query。只有在 probe 判定失败风险超过阈值时，系统才会触发检索，从而减少不必要的 search call，同时保住真正需要外部知识时的答案质量。 • 与失败类型匹配的检索策略：不同的失败模式，比如 factual recall、多跳推理、temporal knowledge，会被分别路由到不同的 retrieval “skills”，而不是统一交给一个通用 retriever。每个 skill 都被看作一个独立组件，agent 可以按需在它们之间选择，这也呼应了更大的趋势：RAG 正在从单体流水线，演化成可组合的原语集合。 • 跨基准的一致增益：在 HotpotQA、Natural Questions 和 TriviaQA 上，Skill RAG 相比统一 RAG baseline 在准确率和效率上都更好。这里效率的意义与准确率同样重要：当系统能跳过那些模型本来就会答的问题时，单 query 的检索成本会显著下降。 • RAG 设计方式的转向：这项工作进一步强化了 RAG 正在前往的方向：从一个单一的大管线，转向一组可被 agent 动态挑选的 retrieval skills。何时检索、检索哪一种，正在成为最核心的设计问题。 论文 | 推文 论文 推文 5. Self Generated World Knowledge 我们距离“能够自我生成世界知识的 agent”还有多远？本文提出了一种 outcome based reward，用来衡量 agent 自行生成的 world knowledge 究竟能在多大程度上提升任务成功率。随后使用这个信号进行训练，并在推理阶段去掉外部指导。最终得到的 14B 模型在 web navigation 上超过了 Gemini 2.5 Flash，并在 WebVoyager 与 WebWalker 基准上带来了 20%+ 的提升。 • 面向知识的 outcome based reward：不同于根据人工标注参考答案为知识打分，这里的 reward 直接看“这些生成出来的知识，是否真的提升了 agent 在任务中的成功率”。这样系统就能在没有外部 oracle 的前提下，学会判断哪些内部生成的事实值得保留。 • 多阶段训练流水线：方法将 instruction and trajectory 数据集上的监督微调，与 reinforcement rejection sampling 结合起来。系统会根据 outcome reward 对轨迹排序，再用最佳轨迹来更新 policy。训练循环会在生成、奖励评分和 rejection sampling 之间不断迭代，直到模型内化出真正有效的 knowledge use 行为。 • 推理阶段的 knowledge enhanced execution：在推理时，外部环境反馈环会被移除。agent 会自我生成 world knowledge，用这些知识做计划，再执行任务，整个过程中不再依赖人工或额外奖励信号。这也是这套方法能真正部署，而不只是便于测量的关键。 • 环境设计替代人工标注：如果 agent 能通过探索环境而不是依赖人工标注奖励来稳定自我提升，那么扩展 agentic systems 的瓶颈就会从数据标注，转向环境设计。这与整个领域的大方向高度一致，也给了实践者一套具体可跟进的方法。 论文 | 推文 论文 推文 6. Self Evolving Logic Synthesis 像 ABC 这样的 EDA 工具，几十年来一直是由人类手工调优的。NVIDIA 展示了它们其实可以自己演化。本文提出了首个 self evolving logic synthesis 框架：一个 multi agent LLM 系统，它会自主改进整个 ABC 代码库，生成并测试候选优化序列，在标准 benchmark circuits 上验证效果，再把改进合并回基础工具中。整个过程中没有人工工程师在环。 • 对真实 EDA toolchain 的多代理改进：框架给不同 agent 分配 exploration、synthesis 和 self review 任务。它们会直接读取并修改 ABC 源码，提出新的优化流程，并在 EPFL、IWLS、VTR 等 benchmark circuits 上运行验证。同时还在流水线中引入了三轮人类领域知识。 • 相对于手工调优 baseline 的实测提升：演化后的 ABC 变体在面积、延迟和开关活动等指标上都超过了手工调优参考版本，而且这种提升在 sensitivity analysis 下仍然成立。这不是纸面优化，而是作用于半导体工业依赖工具的真实增益。 • 演化的是代码库，而不只是 prompt：这些 agent 直接修改的是 ABC 的代码库本身，而不是某层配置壳子。这是 self improving agent 这条线的重要延伸：被改进的对象是真实生产代码，而不是 prompt 或 policy。 • 可泛化到领域工具的通用蓝图：如果 agent 能在没有人工工程参与的情况下演化一个基础性的半导体工具，那么同样的模式就可以迁移到任何大型、领域专属的代码库。这使它成为自我演化 agent 方向在基础设施级别的一个非常具体的落地例子。 论文 | 推文 论文 推文 7. Stateless Decision Memory 当前最有意思的 AI agent 论文，很多都在讲能力；而这篇讲的是 plumbing，但它的重要性可能远超表面。Stateful agents 无法横向扩展。一旦你需要数千个并发 agent instance 在多个 container 上运行，持久化的 per agent state 就会成为瓶颈。本文提出的方案，是用 immutable decision logs 替代 active memory，并借用了 distributed systems 中 event sourcing 的思想。 • 用决策日志替代实时状态：每一次 agent 决策、tool call 和 observation，都会被追加进一个不可变事件日志中。任何实例都可以在需要时通过 replay 日志重建上下文，从而把决策逻辑和存储解耦，让 agent 无需 warmup 就能在任意节点启动。 • 天然具备企业级属性：与 summary only、SAM 和 vector memory baseline 相比，Decision Process Memory（DPM）是唯一一种同时支持 append only logging、stateless projection、可审计的 rationale trails、仅凭日志进行 replay、多租户隔离以及 per event provenance 的架构。而这些恰恰都是受监管企业环境中的硬性要求。 • 在紧预算下性能更强：在 FRP、RCS 和 EDA 评测里，当 memory budget 受限时，DPM 相对 summary only memory 有明显优势，而且预算越紧，差距越大。当预算足够宽松时，几种方案的表现会逐渐趋同，这正符合“规模不再是约束”时的直觉。 • 面向受监管部署的蓝图：对那些要在金融、医疗等强合规行业里落地 agent 的团队来说，这篇论文几乎可以当成一份实操规范来看。它没有重新发明一套全新的 memory 范式，而是把 distributed systems 里成熟的方法直接迁移到 agent memory 上，因此也更可能经得起时间考验。 论文 | 推文 论文 推文 8. There Will Be a Scientific Theory of Deep Learning 这是一篇立场论文，主张真正的 deep learning 科学理论其实已经开始成形，它被作者们统称为 “learning mechanics”。他们总结出五条正在汇聚的研究方向：可求解的理想化模型、可处理的数学极限、简单的宏观规律、超参数理论，以及跨系统的普适行为。这些方向有一个共同特征：它们都在描述训练动力学、关注粗粒度的整体统计量，并且承诺给出可证伪的定量预测。整篇论文是在回应一个长期质疑：deep learning 是否真的可能拥有基础理论？作者的答案是肯定的，并且他们把 learning mechanics 定位为 mechanistic interpretability 的补充，而不是竞争对手。 论文 | 推文 论文 推文 9. MASS RAG 现实中的很多 RAG 失败，并不是没检索到“技术上相关”的文档，而是检索到了在具体语境下毫无用处的文档，然后再强行让一个模型把它们揉成答案。MASS RAG 是一个面向 retrieval augmented generation 的 multi agent synthesis 框架：它把职责拆给不同的专门 agent，分别负责检索候选文档、评估这些文档对当前 query 的真实相关性，以及基于真正有贡献的证据来综合最终答案。它不再让一个模型包打天下，而是把责任拆解给协同 evaluator，这也正符合 deep research agent 方向正在演进的路线。 论文 | 推文 论文 推文 10. Diversity Collapse in Multi Agent LLMs 几乎所有 multi agent system 的叙事里，都默认这些 agents 会探索不同的解法。但这篇论文表明，随着时间推移，它们会收敛到几乎相同的输出，即便底层架构不同、初始 prompt 也不同。作者把这个现象称为 diversity collapse。根本原因是结构性耦合：共享上下文、共享任务描述和相互反馈，会把所有 agent 都拉向同一个 attractor。他们用 Vendi score 等指标做了正式度量，结果表明这种 homogenization 不是错觉。对实践者来说，这意味着 multi agent 架构如果用于 brainstorming、假设生成和创意探索，必须显式设计出隔离推理阶段、解耦评估过程，以及异质化的初始条件，否则很快就会失去多样性。 论文 | 推文 论文 推文 原帖链接：https://x.com/dair ai/status/2048428649288712206 原帖链接：https://x.com/dair ai/status/2048428649288712206 1. DeepSeek V4 DeepSeek V4 是首个从底层开始就把百万 token 上下文当作默认能力构建的开源模型家族，而不是后期外挂上的一个特性。此次发布包含 DeepSeek V4 Pro（总参数 1.6T / 激活参数 49B）和 DeepSeek V4 Flash（总参数 284B / 激活参数 13B），两者都在 1M 上下文长度下原生训练完成。技术报告详细说明了一套混合注意力架构、新的训练稳定性技术，以及一个领域专家式的后训练流水线，这些设计共同把开源前沿推到了离 GPT 5.2 和 Gemini 3.0 Pro 非常近的位置，而且成本低得多。 • 结合 CSA 与 HCA 的混合注意力：DeepSeek V4 不再使用单一注意力堆栈，而是采用 Compressed Sparse Attention（CSA）和 Heavily Compressed Attention（HCA）。CSA 会先压缩 KV，再结合带有滑动窗口 KV 的 DeepSeek Sparse Attention 处理精细的局部依赖；HCA 则在超长上下文层里对 KV 做更激进的压缩，让 1M token 上下文成为可能。 • 万亿参数级别的训练稳定性：团队提出了两种能显著减少 loss spike 的技术。Anticipatory Routing 将 backbone 和 router 的更新解耦，在提取特征时使用当前权重，而在路由索引时使用历史权重；SwiGLU Clamping 则通过约束 SwiGLU 中线性分支和门控分支的值域，来稳定预训练过程中的激活分布。 • 领域专家式后训练：不同于一次混合的大规模 RL 阶段，DeepSeek 为每个领域分别训练一个 specialist expert。每个 expert 都会先在领域数据上进行监督微调，再使用带领域专属奖励模型的 GRPO 强化学习。最后再将这些 specialists 合并到最终模型中，在不破坏通才能力的前提下恢复专项能力。 • 以开源成本逼近 frontier 级性能：DeepSeek V4 Pro Max 在标准推理基准上超过 GPT 5.2 和 Gemini 3.0 Pro，只略低于 GPT 5.4 和 Gemini 3.1 Pro，等于把闭源前沿的差距压缩到了大约 3 到 6 个月。对于需要长上下文推理、又不想承受闭源 API 成本的开源团队来说，这是本周最重要的一次发布。 论文 | 推文 论文 推文 2. Autogenesis 静态 agent 很快就会老化。随着部署环境变化、新工具不断出现，真正能活下来的 agent，一定是那些可以安全重写自己的 agent。本文提出了 Autogenesis，一种 self evolving agent protocol：agent 会主动识别自己的能力缺口，生成候选改进方案，通过测试验证它们，再把真正有效的改进整合回自己的运行框架中。不需要重新训练，也不需要人工打补丁，而是依靠一条持续循环的 assessment、proposal、validation 和 integration 流程。 • 双层协议设计：Autogenesis 将 Resource Substrate Protocol Layer（RSPL）与 Self Evolution Protocol Layer（SEPL）拆开。RSPL 用于标准化 prompts、tools、environments 和 memory 的访问；SEPL 则围绕可进化变量执行 Generate、Reflect、Improve、Evaluate、Commit 这条循环。这样的拆分保证核心能力注册层保持稳定，而演化逻辑可以叠加在其上。 • 可审计的 lineage 与 rollback：每一次改进提交都带有版本 lineage、状态访问控制和可逆生命周期操作。协议把每一次自我修改都视作一个一等工件，因此可以被检查、复现，或随时回滚，而这正是让 self improvement 足够安全、能够真正部署的基础。 • 适用于多代理系统：Autogenesis 在包含 planner、executor 和 analyst 角色的 multi agent systems 上做了验证。agent 会基于共享协议，进化自己的 prompt、tool wrapper 和协作流程。这表明该抽象足够通用，适用于不同角色，而不是只绑定某一种单一 agent。 • 更大 self improvement 浪潮的一部分：这篇论文与 Meta Harness 和 Darwin Gödel Machine 一起，构成了 self modification 落地化的一个具体框架。它们共同标志着一个转变：从“会用工具的 agent”，走向“会改造自己工具链的 agent”。 论文 | 推文 论文 推文 3. Attention to Mamba Apple 提出了一套两阶段方案，用于把 Transformer 跨架构蒸馏到 Mamba。朴素蒸馏之所以失败，是因为 Mamba student 无法直接模仿 softmax attention。解决方案是：先通过 kernel adaptation，把 Transformer 蒸馏到一个 linearized attention student，再把这个 student 转移到一个纯 Mamba 架构中，不再保留 attention blocks。在一个用 10B token 训练的 1B 模型上，这个 Mamba student 达到了 14.11 perplexity，而教师模型 Pythia 1B 为 13.86，几乎以线性时间推理成本逼近了原始质量。 • 第一阶段：从 softmax 到 linear attention：第一步用 Hedgehog 风格的线性化注意力 student 替换 softmax attention，并通过一个可学习的 kernel feature map 保留原始注意力分数，同时移除 softmax 非线性。这给出了一个严格线性复杂度的中间模型，并且与教师模型保持高度接近。 • 第二阶段：从 linear attention 到 Mamba：第二步将这个线性注意力 student 转移到 HedgeMamba block 中，这是一种混合 SSM 架构。它复用已经学到的线