6.7- 6.14｜本周顶尖 AI 论文

6.7 6.14｜本周顶尖 AI 论文 🥇 6.7 6.14｜本周顶尖 AI 论文 Modified June 14 Agents' Last Exam 来自 Berkeley RDI 的 Agents' Last Exam（ALE）是一个动态基准，用来衡量智能体是否能完成有经济价值的工作，而不只是能在学术测试上拿高分。它由 250 多位行业专家共同构建，将 1000 多个可验证任务映射到美国联邦职业分类体系，并组织成 13 个行业集群下的 55 个子领域。每个任务都有客观、可检查的结果，因此不需要主观人工评分；任务池也被设计为可以随着新工作流接入而持续增长。 • 扎根真实职业：任务按照 O NET 和 SOC 2018 定义，覆盖非体力行业，刻意瞄准智能体实际部署时会遇到的专业工作流，而不是谜题式问题。 • 三档难度：工作被划分为 Near Term、Full Spectrum 和 Last Exam 三个层级，用来同时追踪近期实用性和困难多步骤工作的长尾。 • 远未饱和：最难层级在主流脚手架上的平均完全通过率只有 2.6%；即便是 Codex 搭配 GPT 5.5 这样的强配置，在最简单层级也低于 50%，在最难层级低于 10%。 • 意义：现有基准上的高分并没有转化为经济意义上的真实部署。ALE 把评测重构为可验证、由专家策划的工作，并提供一个随着智能体进步而持续移动、较难被刷满的目标。 论文 | 推文 4. How AI Agents Reshape Knowledge Work How AI Agents Reshape Knowledge Work 这篇经济学论文基于 Perplexity 的大规模生产数据，研究从对话式助手转向自主智能体后，知识工作如何被重塑。论文沿着自主性、效率和人们承担的任务范围三个维度，对比了对话式助手 Search 与通用智能体系统 Computer。它的框架是一个成本结构模型：智能体有更高的固定成本和委派成本，但每一步的边际成本更低，因此当任务足够复杂时，智能体会胜出。 • 现实中的自主性很不一样：Computer 每个会话大约执行 26 分钟的自主机器工作，而 Search 约为 33 秒；智能体上的每次查询不满意率也低 55%，分别为 1.3% 和 2.9%。 • 效率大幅提升：在匹配任务上，Computer 将完成时间从 269 分钟降到 36 分钟，时间减少 87%，相对于只用 Search 的人类工作方式，成本大约降低 94%。 • 任务范围向上移动：智能体查询在认知上更复杂，抽象或非例行任务占 71%，而 Search 为 53%；创造级工作量翻倍，并且会打包跨职业边界的相互依赖子任务。 • 意义：数据支持一个清晰预测：随着委派固定成本下降，智能体会把可负担的价值边界推向更高价值的多步骤知识工作。研究中增长最快的也正是这些任务，使用量达到第一周的 84 倍。 论文 | 推文 5. Agentopia Agentopia Agentopia 是迄今最有雄心的智能体社会测试床之一。这份 79 页论文把 100 个 LLM 智能体放进一个持久世界，让它们生活、建立关系并追求目标，模拟跨度长达 10 年，比此前按天计的研究长出几个数量级。除了观察涌现出的社会行为，作者还把模拟作为训练信号，通过拒绝采样优化模型，使其趋向一种反映人类福祉的 life reward。 • 为长周期而设计：早期智能体社会通常以天为粒度运行，而 Agentopia 在每个世界中模拟十年人生，从而呈现只有在长时间尺度下才会出现的非脚本化社会策略和人际动态。 • 把模拟作为训练信号：life reward 指标被用来微调更拟人化的模型，改进不只停留在模拟环境中，还能迁移到下游角色扮演基准。 • 可测量收益：训练后的智能体在 CoSER Test 上整体提升 15.6%，其中 Anthropomorphism 提升 23.7%，Character Fidelity 提升 16.4%；它们被同伴尊重的比例提高 24.2%，被喜欢的比例提高 15.9%。 • 意义：一次 10 年、100 个智能体运行会消耗 137 亿 token，包含 56.7 万次 LLM 调用。这个规模本身就在说明智能体研究的方向：活的、会学习的群体，既是研究对象，也是训练数据来源。 论文 | 推文 6. The Geometry of On Policy Distillation The Geometry of On Policy Distillation On policy distillation（OPD）已经成为今年最受讨论的后训练配方之一，但它大多被当作介于监督微调和 RL 之间的黑箱。本文打开这个黑箱，从参数几何层面刻画 OPD 如何改变模型权重，并认为 OPD 不是 SFT 和 RLVR 之间的中点，而是一种独立的更新方式。 • 它触及的权重更少：与 SFT 相比，OPD 更新影响的参数少得多，并且基本避开了权重空间中的主导主方向，这有助于解释它的样本效率。 • 早期子空间锁定：OPD 的累计更新会在训练早期迅速坍缩到一个狭窄、低维的子空间，而不是像 SFT 那样分散到许多方向。 • 这个子空间在功能上足够：把训练限制在早期形成的子空间中，仍能保留 OPD 的性能，但会显著损害 SFT，说明这个小子空间确实承载了有用信号，而不是伪影。 • 意义：理解 OPD 在权重空间中的作用位置，可以把一个流行但理解不足的配方变成有机制解释的方法。这会让人更容易推理它、把它和其他目标组合，并有意识地改进它，而不是靠试错。 论文 7. Lookahead Sparse Attention Lookahead Sparse Attention 长上下文解码的瓶颈在 KV 缓存：它会随着每个 token 增长，并在极端上下文长度下迅速主导内存占用。这项围绕 DeepSeek V4 展开的工作提出 Lookahead Sparse Attention（LSA），通过预测未来解码实际需要上下文中的哪些部分，只保留对查询关键的片段，从而避免存储完整 KV 缓存。 • 轻量级学习型索引器：它不是保留所有内容，而是由一个小型索引器主动选择即将生成时真正重要的 KV 片段，让物理缓存保持较小，同时不丢弃模型需要的信息。 • 不依赖 backbone 的训练：解耦训练策略允许索引器单独训练，不需要加载完整 backbone 模型，从而降低给大模型加入该机制的成本。 • 大幅节省缓存，质量不降：LSA 将物理 KV 缓存缩小到完整上下文基线的 13.5%，同时平均准确率还略微提高 0.6%；在 500K token 上下文下，它压制了超过 90% 的 KV 缓存开销，且不破坏推理稳定性。 • 意义：超长上下文越来越成为玩具演示和可用系统之间的差别，而内存是那堵墙。预测你将需要哪些上下文，而不是把全部上下文都保留下来，是一条能适配真实硬件预算的长上下文路径。 论文 8. Latent Spatial Memory 视频世界模型很难在长周期内保持一致，因为显式 3D 记忆通常需要昂贵的像素空间循环。Mirage 转而把场景信息直接存储在扩散潜空间中，通过深度引导的反投影和潜空间扭曲来维持持久空间记忆。相比显式 3D 记忆基线，这种方法报告了最高 10.57 倍的端到端生成加速和 55 倍的内存降低，同时提升了长周期空间一致性。 论文 9. The Consistency Illusion 多智能体辩论常常用智能体最后是否达成一致来评判，但这篇论文表明，输出层面的共识可能掩盖产生该输出的推理过程中的深层分歧。作者把智能体的推理轨迹和决策抽象为两个轴上的四种状态：推理相似度和结论一致性，并标记出“分歧式一致”，也就是智能体通过很不同的路径得出同一个答案。在 600 个内容审核项目中，分歧式一致出现了 118 次，并且能以 Cohen's d = 0.80 与真正分歧状态清晰分离；基于这些类别的路由，在标记高分歧案例上也优于只看分歧度的方法。 论文 | 推文 10. Beyond Scalar Rewards 奖励模型通常把判断压缩成一个标量，但这篇论文认为，人类偏好更适合表示为分数分布，并提出 Z Reward：先把推理内化为预测分布，再进行打分。一个大型视觉语言教师模型负责需要大量推理的判断，并被蒸馏到一个紧凑学生模型中以便高效部署；其中 27B 教师模型达到 89.6% 的人类偏好准确率，9B 学生模型也几乎追平，达到 88.6%。当它作为强化学习信号使用时，相比监督基线带来 41.3% 的净偏好提升，并超过 GRPO 和其他奖励方法。 论文 论文 推文 论文 推文 论文 推文 论文 论文 论文 论文 推文 论文 来自 Berkeley RDI 的 Agents' Last Exam（ALE）是一个动态基准，用来衡量智能体是否能完成有经济价值的工作，而不只是能在学术测试上拿高分。它由 250 多位行业专家共同构建，将 1000 多个可验证任务映射到美国联邦职业分类体系，并组织成 13 个行业集群下的 55 个子领域。每个任务都有客观、可检查的结果，因此不需要主观人工评分；任务池也被设计为可以随着新工作流接入而持续增长。 • 扎根真实职业：任务按照 O NET 和 SOC 2018 定义，覆盖非体力行业，刻意瞄准智能体实际部署时会遇到的专业工作流，而不是谜题式问题。 • 三档难度：工作被划分为 Near Term、Full Spectrum 和 Last Exam 三个层级，用来同时追踪近期实用性和困难多步骤工作的长尾。 • 远未饱和：最难层级在主流脚手架上的平均完全通过率只有 2.6%；即便是 Codex 搭配 GPT 5.5 这样的强配置，在最简单层级也低于 50%，在最难层级低于 10%。 • 意义：现有基准上的高分并没有转化为经济意义上的真实部署。ALE 把评测重构为可验证、由专家策划的工作，并提供一个随着智能体进步而持续移动、较难被刷满的目标。 论文 | 推文 论文 推文 4. How AI Agents Reshape Knowledge Work 这篇经济学论文基于 Perplexity 的大规模生产数据，研究从对话式助手转向自主智能体后，知识工作如何被重塑。论文沿着自主性、效率和人们承担的任务范围三个维度，对比了对话式助手 Search 与通用智能体系统 Computer。它的框架是一个成本结构模型：智能体有更高的固定成本和委派成本，但每一步的边际成本更低，因此当任务足够复杂时，智能体会胜出。 • 现实中的自主性很不一样：Computer 每个会话大约执行 26 分钟的自主机器工作，而 Search 约为 33 秒；智能体上的每次查询不满意率也低 55%，分别为 1.3% 和 2.9%。 • 效率大幅提升：在匹配任务上，Computer 将完成时间从 269 分钟降到 36 分钟，时间减少 87%，相对于只用 Search 的人类工作方式，成本大约降低 94%。 • 任务范围向上移动：智能体查询在认知上更复杂，抽象或非例行任务占 71%，而 Search 为 53%；创造级工作量翻倍，并且会打包跨职业边界的相互依赖子任务。 • 意义：数据支持一个清晰预测：随着委派固定成本下降，智能体会把可负担的价值边界推向更高价值的多步骤知识工作。研究中增长最快的也正是这些任务，使用量达到第一周的 84 倍。 论文 | 推文 论文 推文 5. Agentopia Agentopia 是迄今最有雄心的智能体社会测试床之一。这份 79 页论文把 100 个 LLM 智能体放进一个持久世界，让它们生活、建立关系并追求目标，模拟跨度长达 10 年，比此前按天计的研究长出几个数量级。除了观察涌现出的社会行为，作者还把模拟作为训练信号，通过拒绝采样优化模型，使其趋向一种反映人类福祉的 life reward。 • 为长周期而设计：早期智能体社会通常以天为粒度运行，而 Agentopia 在每个世界中模拟十年人生，从而呈现只有在长时间尺度下才会出现的非脚本化社会策略和人际动态。 • 把模拟作为训练信号：life reward 指标被用来微调更拟人化的模型，改进不只停留在模拟环境中，还能迁移到下游角色扮演基准。 • 可测量收益：训练后的智能体在 CoSER Test 上整体提升 15.6%，其中 Anthropomorphism 提升 23.7%，Character Fidelity 提升 16.4%；它们被同伴尊重的比例提高 24.2%，被喜欢的比例提高 15.9%。 • 意义：一次 10 年、100 个智能体运行会消耗 137 亿 token，包含 56.7 万次 LLM 调用。这个规模本身就在说明智能体研究的方向：活的、会学习的群体，既是研究对象，也是训练数据来源。 论文 | 推文 论文 推文 6. The Geometry of On Policy Distillation On policy distillation（OPD）已经成为今年最受讨论的后训练配方之一，但它大多被当作介于监督微调和 RL 之间的黑箱。本文打开这个黑箱，从参数几何层面刻画 OPD 如何改变模型权重，并认为 OPD 不是 SFT 和 RLVR 之间的中点，而是一种独立的更新方式。 • 它触及的权重更少：与 SFT 相比，OPD 更新影响的参数少得多，并且基本避开了权重空间中的主导主方向，这有助于解释它的样本效率。 • 早期子空间锁定：OPD 的累计更新会在训练早期迅速坍缩到一个狭窄、低维的子空间，而不是像 SFT 那样分散到许多方向。 • 这个子空间在功能上足够：把训练限制在早期形成的子空间中，仍能保留 OPD 的性能，但会显著损害 SFT，说明这个小子空间确实承载了有用信号，而不是伪影。 • 意义：理解 OPD 在权重空间中的作用位置，可以把一个流行但理解不足的配方变成有机制解释的方法。这会让人更容易推理它、把它和其他目标组合，并有意识地改进它，而不是靠试错。 论文 论文 7. Lookahead Sparse Attention 长上下文解码的瓶颈在 KV 缓存：它会随着每个 token 增长，并在极端上下文长度下迅速主导内存占用。这项围绕 DeepSeek V4 展开的工作提出 Lookahead Sparse Attention（LSA），通过预测未来解码实际需要上下文中的哪些部分，只保留对查询关键的片段，从而避免存储完整 KV 缓存。 • 轻量级学习型索引器：它不是保留所有内容，而是由一个小型索引器主动选择即将生成时真正重要的 KV 片段，让物理缓存保持较小，同时不丢弃模型需要的信息。 • 不依赖 backbone 的训练：解耦训练策略允许索引器单独训练，不需要加载完整 backbone 模型，从而降低给大模型加入该机制的成本。 • 大幅节省缓存，质量不降：LSA 将物理 KV 缓存缩小到完整上下文基线的 13.5%，同时平均准确率还略微提高 0.6%；在 500K token 上下文下，它压制了超过 90% 的 KV 缓存开销，且不破坏推理稳定性。 • 意义：超长上下文越来越成为玩具演示和可用系统之间的差别，而内存是那堵墙。预测你将需要哪些上下文，而不是把全部上下文都保留下来，是一条能适配真实硬件预算的长上下文路径。 论文 论文 8. Latent Spatial Memory 视频世界模型很难在长周期内保持一致，因为显式 3D 记忆通常需要昂贵的像素空间循环。Mirage 转而把场景信息直接存储在扩散潜空间中，通过深度引导的反投影和潜空间扭曲来维持持久空间记忆。相比显式 3D 记忆基线，这种方法报告了最高 10.57 倍的端到端生成加速和 55 倍的内存降低，同时提升了长周期空间一致性。 论文 论文 9. The Consistency Illusion 多智能体辩论常常用智能体最后是否达成一致来评判，但这篇论文表明，输出层面的共识可能掩盖产生该输出的推理过程中的深层分歧。作者把智能体的推理轨迹和决策抽象为两个轴上的四种状态：推理相似度和结论一致性，并标记出“分歧式一致”，也就是智能体通过很不同的路径得出同一个答案。在 600 个内容审核项目中，分歧式一致出现了 118 次，并且能以 Cohen's d = 0.80 与真正分歧状态清晰分离；基于这些类别的路由，在标记高分歧案例上也优于只看分歧度的方法。 论文 | 推文 论文 推文 10. Beyond Scalar Rewards 奖励模型通常把判断压缩成一个标量，但这篇论文认为，人类偏好更适合表示为分数分布，并提出 Z Reward：先把推理内化为预测分布，再进行打分。一个大型视觉语言教师模型负责需要大量推理的判断，并被蒸馏到一个紧凑学生模型中以便高效部署；其中 27B 教师模型达到 89.6% 的人类偏好准确率，9B 学生模型也几乎追平，达到 88.6%。当它作为强化学习信号使用时，相比监督基线带来 41.3% 的净偏好提升，并超过 GRPO 和其他奖励方法。 论文 论文 原帖链接：https://x.com/dair ai/status/2066174390048358760 原帖链接：https://x.com/dair ai/status/2066174390048358760 欢迎阅读本周顶尖 AI 论文（6 月 7 日 6 月 14 日）。 1. MiniMax Sparse Attention 超长上下文现在已经是智能体、代码库级推理、多模态工作流和持久记忆的核心需求，但密集 softmax 注意力仍然让百万 token 级部署成本很高。MiniMax Sparse Attention（MSA）通过在 Grouped Query Attention 之上加入分块稀疏性来解决这一问题：它使用一个轻量级路由分支，为每个查询组选择真正需要关注的键值块。 • 双分支注意力设计：Index Branch 会对完整因果上下文打分，并为每个 GQA 组独立选择 Top k 键值块；Main Branch 只在这些被选中的块上执行精确稀疏注意力。 • 面向硬件的实现：论文将稀疏模式与 GPU kernel 协同设计，使用无 exp 的 Top k 选择和 KV outer sparse attention，在分块粒度访问下提升 tensor core 利用率。 • 大规模下的显著加速：在一个 109B 参数的原生多模态模型上，MSA 保持了与 GQA 相当的性能，同时在 1M 上下文下将每 token 注意力计算量降低 28.4 倍。配套 kernel 在 H800 上实现了 14.2 倍 prefill 和 7.6 倍解码端到端加速。 • 意义：长上下文只有在能低成本服务时才真正有用。MSA 的吸引力在于机制简单、直接训练进生产规模模型、开源推理 kernel，并支撑了已发布的 MiniMax M3 模型。 论文 | 推文 论文 推文 2. Self Harness 大多数智能体脚手架都是人工搭好一次后就固定不变，尽管底层模型一直在变化。这篇论文提出 Self Harness：让 LLM 智能体在没有人类工程师、也没有更强外部智能体帮助的情况下，改进自身运行脚手架，也就是围绕基础模型的提示词、工具、记忆和编排。由于每个模型都会以自己的方式失败，系统会挖掘这些模型特定弱点，并把它们转化为具体、可执行的脚手架修改，而不是泛泛的建议。 • 三阶段自我改进循环：Self Harness 先运行 Weakness Mining，把执行轨迹聚类成模型特定失败模式；再运行 Harness Proposal，生成与这些失败相对应、多样但尽量小的修改；最后通过 Proposal Validation，只在修改通过内部划分和留出划分上的回归测试后才接受。 • 不同基础模型上都有稳定收益：在 Terminal Bench 2.0 上，所有测试模型的留出集通过率都提升了。MiniMax M2.5 从 40.5% 提升到 61.9%，Qwen3.5 35B A3B 从 23.8% 提升到 38.1%，GLM 5 从 42.9% 提升到 57.1%。 • 弱点会变成修改：这个循环不会追加泛泛的指令，而是把每一种观察到的失败模式转化为针对记忆、工具或提示词的定向修改，报告中的相对提升最高达到 138%。 • 意义：随着模型不断增多并持续演化，为每个模型手工调一套专属脚手架并不可扩展。Self Harness 表明，脚手架本身也可以适应变化，从而缩小固定脚手架与被包裹模型之间的差距。 论文 | 推文 论文 推文 3. Agents' Last Exam