5.24-5.31｜本周顶级 AI 论文

5.24 5.31｜本周顶级 AI 论文 🥇 5.24 5.31｜本周顶级 AI 论文 Modified June 1 来自 Harvard 的 AutoScientists 是一支去中心化 AI 智能体团队，面向长时间运行的计算科学任务，并且完全去掉了中央规划器。它不是沿着一条由上层协调的研究轨迹前进，而是让智能体围绕有希望的假设自组织，在投入实验算力之前互相批评提案，并记录成功与失败，让系统在数小时或数天的证据积累中避免重复探索。 • 没有中央规划器：智能体会解读共享实验状态，围绕有前景的方向组队，并在进展停滞时重组。协调来自共同状态，而不是顶层控制器，因此可以维持并行搜索，而不是只跑一条线。 • 先评估，再花算力：在分配任何实验算力之前，提案会先被批评和打分。这道门禁减少了浪费性试验，也避免系统反复走进单个智能体可能重复访问的死胡同。 • 在真实科学任务上结果很强：在 BioML Bench 上，也就是覆盖成像、蛋白质工程、单细胞组学和药物发现的 24 个生物医学机器学习任务上，AutoScientists 达到 74.4% 的平均排行榜百分位，比此前最强 AI 智能体提升 +8.33%。 • 为什么重要：多数多智能体研究系统仍然会把决策汇聚到一个规划器，而规划器会成为瓶颈。带有显式失败共享的去中心化自组织，为长周期科学搜索提供了另一套蓝图，而且它在困难的生物医学基准上站得住。 论文 | 原帖 4. 语言模型需要睡眠 注意力机制会随着上下文长度增长而迅速变贵，所以长周期智能体会在上下文不断变长时持续付出更高成本。这篇论文研究了一种类似睡眠的整合机制：模型会定期把近期上下文转换成持久的快速权重，然后清空自己的键值缓存。在睡眠阶段，它会对累积上下文进行离线循环传递，并通过学习到的局部规则更新状态空间模块中的快速权重。 • 先整合，再清空缓存：在丢弃 KV cache 之前，近期上下文会被折叠进模型 SSM 模块中保存的快速权重。智能体保留学到的内容，但不需要在每个未来步骤都背着完整注意力账单。 • 计算转移到睡眠阶段，清醒阶段保持低延迟：额外工作在线下整合时完成，因此清醒阶段的预测仍然保持低延迟。这种权衡是显式且可控的，而不是藏在不断膨胀的上下文窗口里。 • 更长睡眠最能帮助困难样例：延长睡眠时间会提升性能，最大收益恰好出现在最需要对长历史进行复杂推理的任务上。这个机制最能帮助那些朴素注意力最吃力的场景。 • 为什么重要：长周期智能体是第一批真正感受到上下文二次成本的系统。一个受生物学启发的整合步骤，为一味加长上下文窗口提供了有原则的替代方案，而且能自然映射到已经用于效率优化的状态空间架构上。 论文 | 原帖 5. 适配接口，而不是模型 当一个冻结的 LLM 智能体在确定性、受规则约束的环境中反复失败时，是否必须重新训练模型？Life Harness 认为不需要。许多失败来自模型与环境接口之间的不匹配，而不是模型推理能力本身，因此修复点应该放在运行时框架里。Life Harness 是一个具备生命周期意识的运行框架，可以在不触碰模型权重或评估环境的情况下改进冻结智能体。 • 失败会变成可复用干预：反复出现的错误会被转化成四个方面的运行时修复：动作实现、环境契约、轨迹调节和程序化技能。每个修复都是运行框架层的补丁，智能体会在后续尝试中复用。 • 模型冻结，环境不变：模型和基准测试本身都不改变。变化的只有它们之间的接口，因此这种方法可以直接接入任意主干模型，同时避免微调的成本和风险。 • 广泛且稳定的提升：在 7 个确定性智能体基准和 18 个模型主干上，Life Harness 改进了 126 个模型 环境设置中的 116 个，平均相对提升 88.5%。这种效果跨模型规模成立，而不是只帮助弱模型。 • 为什么重要：这进一步支持了“代码即运行框架”的观点：相当一部分智能体失败其实是接口问题，可以通过运行框架工程修复，而不需要重新训练。对构建者来说，杠杆在运行时，而不是模型本身。 论文 | 原帖 6. 效率前沿 上下文成本主导了生产环境中的 LLM 账单，而正确策略取决于预处理结果会被复用多少次。这篇论文把上下文策略选择建模为一个面向部署的优化问题，同时考虑任务性能、token 成本和复用情况，并用它在现实约束下比较基于检索和基于预处理的方法。 • 感知复用的成本模型：一个参数化的对数效用指标会捕捉更多上下文带来的边际收益递减，同时计入摊销后的预处理成本。通过改变复用参数，这个框架可以在不同部署模式下公平比较各种策略。 • 清晰的运行区间：分析揭示了检索策略和预处理策略之间清晰的切换边界。谁更优取决于预处理上下文会被复用多少次，因此单一默认策略很少是最优选择。 • 真实 token 节省：在 5,000 个 HotpotQA 实例上，面向部署的优化在性能相近的情况下，将有效 token 用量降低约 25%；摊销后的记忆压缩相比完整上下文，将 token 成本降低超过 50%。 • 为什么重要：多数团队会先选一种上下文策略，然后在每次请求中持续为它付费。把上下文管理视为明确的成本 性能优化问题，可以把猜测变成可度量决策，并在常见工作负载上带来两位数节省。 论文 | 原帖 7. 用 AI 预测科学进展 前沿模型能预测科学将走向哪里吗？这项工作提出了 CUSP，一个基于知识截止时间条件的基准测试，包含来自多个学科的 4,760 个真实科学事件，每个事件都与经过验证的知识截止点绑定。对每个事件，模型都会接受四类任务测试：可行性评估、机制推理、生成式解决方案设计和时间预测。主要结论相当冷静：模型能识别看起来合理的方向，但无法预测结果。 • 识别不等于预见：模型在多个候选方向中可以识别合理的研究方向，但无法可靠预测某项进展是否真的会实现，也会系统性误判它发生的时间。 • 强烈依赖领域，时间最难：不同领域的表现高度不均衡。AI 进展的时间比生物、化学和物理中的进展更容易预测，而时间预测整体上是最弱的一项能力。 • 不只是训练截止时间造成的假象：某个事件发生在模型训练截止时间之前还是之后，对表现影响整体不大。额外的截止前知识会有所帮助，但仍然无法缩小与完整信息设置之间的差距；对于高引用量进展，这个差距还会扩大。 • 为什么重要：模型还表现出系统性过度自信和强烈的回答偏置，意味着它们给出的不确定性估计并不可靠。当实验室越来越依赖 AI 来筛选研究押注时，CUSP 提供了一种受控方式，用来衡量 AI 在哪里有帮助，也就是浮现方向；以及在哪里会失败，也就是预测结果。 论文 | 原帖 8. 你的智能体也在老化 AgingBench 是一个面向智能体寿命工程的纵向可靠性基准，出发点是：长期存活的智能体仍然像刚初始化的模型一样被评估。它把智能体退化分成四种机制：压缩老化，也就是写入时的摘要丢失了未来相关细节；干扰老化，也就是累积起来的相似记忆挤掉了目标事实；修订老化，也就是已改变或派生的状态没有被正确更新；以及来自常规生命周期事件的维护老化。它使用时间依赖有向无环图来编码跨会话结构，生成贯穿运行寿命的老化曲线，而不是只给出第一天的单点分数，并指出修复应该瞄准哪里。 论文 | 原帖 9. 运行框架并不总是更好 这篇论文从推理时轨迹对齐的角度研究 LLM 智能体运行框架，把运行框架拆成两种机制：任务分解，也就是把任务组织成子目标；以及引导式执行，也就是在执行过程中重塑局部动作分布。关键发现是，更复杂的运行框架并不总是更好。增加分解或引导可以改善执行，但也可能降低最终任务成功率，产生过度分解、过度剪枝和幻觉式执行等具体失败模式。很有意思的是，只指定初始步骤、把剩余部分留给智能体的部分运行框架，反而可以达到比完全结构化工作流更高的通过率。 论文 | 原帖 10. Epicure Epicure 从零开始训练了一组多语言食材嵌入，使用的是来自 11 个来源、覆盖七种语言、共 414 万份食谱的数据；原始食材字符串通过 LLM 增强流程规范化为 1,790 个标准条目。它发布了三种 skip gram（Metapath2Vec）变体，架构相同，但游走对象不同：只看食谱共现，只看 FlavorDB 的化合物结构，或混合两者，把每个模型放在“化学信号”和“食谱上下文”这条谱系上的不同位置。结果是一张紧凑、可下载的食物涌现几何图谱，也清楚提醒我们：表征学习不只适用于文本，也能很好地泛化到非常日常的领域。 论文 | 原帖 论文 原帖 论文 原帖 论文 原帖 论文 原帖 论文 原帖 论文 原帖 论文 原帖 论文 原帖 来自 Harvard 的 AutoScientists 是一支去中心化 AI 智能体团队，面向长时间运行的计算科学任务，并且完全去掉了中央规划器。它不是沿着一条由上层协调的研究轨迹前进，而是让智能体围绕有希望的假设自组织，在投入实验算力之前互相批评提案，并记录成功与失败，让系统在数小时或数天的证据积累中避免重复探索。 • 没有中央规划器：智能体会解读共享实验状态，围绕有前景的方向组队，并在进展停滞时重组。协调来自共同状态，而不是顶层控制器，因此可以维持并行搜索，而不是只跑一条线。 • 先评估，再花算力：在分配任何实验算力之前，提案会先被批评和打分。这道门禁减少了浪费性试验，也避免系统反复走进单个智能体可能重复访问的死胡同。 • 在真实科学任务上结果很强：在 BioML Bench 上，也就是覆盖成像、蛋白质工程、单细胞组学和药物发现的 24 个生物医学机器学习任务上，AutoScientists 达到 74.4% 的平均排行榜百分位，比此前最强 AI 智能体提升 +8.33%。 • 为什么重要：多数多智能体研究系统仍然会把决策汇聚到一个规划器，而规划器会成为瓶颈。带有显式失败共享的去中心化自组织，为长周期科学搜索提供了另一套蓝图，而且它在困难的生物医学基准上站得住。 论文 | 原帖 论文 原帖 4. 语言模型需要睡眠 注意力机制会随着上下文长度增长而迅速变贵，所以长周期智能体会在上下文不断变长时持续付出更高成本。这篇论文研究了一种类似睡眠的整合机制：模型会定期把近期上下文转换成持久的快速权重，然后清空自己的键值缓存。在睡眠阶段，它会对累积上下文进行离线循环传递，并通过学习到的局部规则更新状态空间模块中的快速权重。 • 先整合，再清空缓存：在丢弃 KV cache 之前，近期上下文会被折叠进模型 SSM 模块中保存的快速权重。智能体保留学到的内容，但不需要在每个未来步骤都背着完整注意力账单。 • 计算转移到睡眠阶段，清醒阶段保持低延迟：额外工作在线下整合时完成，因此清醒阶段的预测仍然保持低延迟。这种权衡是显式且可控的，而不是藏在不断膨胀的上下文窗口里。 • 更长睡眠最能帮助困难样例：延长睡眠时间会提升性能，最大收益恰好出现在最需要对长历史进行复杂推理的任务上。这个机制最能帮助那些朴素注意力最吃力的场景。 • 为什么重要：长周期智能体是第一批真正感受到上下文二次成本的系统。一个受生物学启发的整合步骤，为一味加长上下文窗口提供了有原则的替代方案，而且能自然映射到已经用于效率优化的状态空间架构上。 论文 | 原帖 论文 原帖 5. 适配接口，而不是模型 当一个冻结的 LLM 智能体在确定性、受规则约束的环境中反复失败时，是否必须重新训练模型？Life Harness 认为不需要。许多失败来自模型与环境接口之间的不匹配，而不是模型推理能力本身，因此修复点应该放在运行时框架里。Life Harness 是一个具备生命周期意识的运行框架，可以在不触碰模型权重或评估环境的情况下改进冻结智能体。 • 失败会变成可复用干预：反复出现的错误会被转化成四个方面的运行时修复：动作实现、环境契约、轨迹调节和程序化技能。每个修复都是运行框架层的补丁，智能体会在后续尝试中复用。 • 模型冻结，环境不变：模型和基准测试本身都不改变。变化的只有它们之间的接口，因此这种方法可以直接接入任意主干模型，同时避免微调的成本和风险。 • 广泛且稳定的提升：在 7 个确定性智能体基准和 18 个模型主干上，Life Harness 改进了 126 个模型 环境设置中的 116 个，平均相对提升 88.5%。这种效果跨模型规模成立，而不是只帮助弱模型。 • 为什么重要：这进一步支持了“代码即运行框架”的观点：相当一部分智能体失败其实是接口问题，可以通过运行框架工程修复，而不需要重新训练。对构建者来说，杠杆在运行时，而不是模型本身。 论文 | 原帖 论文 原帖 6. 效率前沿 上下文成本主导了生产环境中的 LLM 账单，而正确策略取决于预处理结果会被复用多少次。这篇论文把上下文策略选择建模为一个面向部署的优化问题，同时考虑任务性能、token 成本和复用情况，并用它在现实约束下比较基于检索和基于预处理的方法。 • 感知复用的成本模型：一个参数化的对数效用指标会捕捉更多上下文带来的边际收益递减，同时计入摊销后的预处理成本。通过改变复用参数，这个框架可以在不同部署模式下公平比较各种策略。 • 清晰的运行区间：分析揭示了检索策略和预处理策略之间清晰的切换边界。谁更优取决于预处理上下文会被复用多少次，因此单一默认策略很少是最优选择。 • 真实 token 节省：在 5,000 个 HotpotQA 实例上，面向部署的优化在性能相近的情况下，将有效 token 用量降低约 25%；摊销后的记忆压缩相比完整上下文，将 token 成本降低超过 50%。 • 为什么重要：多数团队会先选一种上下文策略，然后在每次请求中持续为它付费。把上下文管理视为明确的成本 性能优化问题，可以把猜测变成可度量决策，并在常见工作负载上带来两位数节省。 论文 | 原帖 论文 原帖 7. 用 AI 预测科学进展 前沿模型能预测科学将走向哪里吗？这项工作提出了 CUSP，一个基于知识截止时间条件的基准测试，包含来自多个学科的 4,760 个真实科学事件，每个事件都与经过验证的知识截止点绑定。对每个事件，模型都会接受四类任务测试：可行性评估、机制推理、生成式解决方案设计和时间预测。主要结论相当冷静：模型能识别看起来合理的方向，但无法预测结果。 • 识别不等于预见：模型在多个候选方向中可以识别合理的研究方向，但无法可靠预测某项进展是否真的会实现，也会系统性误判它发生的时间。 • 强烈依赖领域，时间最难：不同领域的表现高度不均衡。AI 进展的时间比生物、化学和物理中的进展更容易预测，而时间预测整体上是最弱的一项能力。 • 不只是训练截止时间造成的假象：某个事件发生在模型训练截止时间之前还是之后，对表现影响整体不大。额外的截止前知识会有所帮助，但仍然无法缩小与完整信息设置之间的差距；对于高引用量进展，这个差距还会扩大。 • 为什么重要：模型还表现出系统性过度自信和强烈的回答偏置，意味着它们给出的不确定性估计并不可靠。当实验室越来越依赖 AI 来筛选研究押注时，CUSP 提供了一种受控方式，用来衡量 AI 在哪里有帮助，也就是浮现方向；以及在哪里会失败，也就是预测结果。 论文 | 原帖 论文 原帖 8. 你的智能体也在老化 AgingBench 是一个面向智能体寿命工程的纵向可靠性基准，出发点是：长期存活的智能体仍然像刚初始化的模型一样被评估。它把智能体退化分成四种机制：压缩老化，也就是写入时的摘要丢失了未来相关细节；干扰老化，也就是累积起来的相似记忆挤掉了目标事实；修订老化，也就是已改变或派生的状态没有被正确更新；以及来自常规生命周期事件的维护老化。它使用时间依赖有向无环图来编码跨会话结构，生成贯穿运行寿命的老化曲线，而不是只给出第一天的单点分数，并指出修复应该瞄准哪里。 论文 | 原帖 论文 原帖 9. 运行框架并不总是更好 这篇论文从推理时轨迹对齐的角度研究 LLM 智能体运行框架，把运行框架拆成两种机制：任务分解，也就是把任务组织成子目标；以及引导式执行，也就是在执行过程中重塑局部动作分布。关键发现是，更复杂的运行框架并不总是更好。增加分解或引导可以改善执行，但也可能降低最终任务成功率，产生过度分解、过度剪枝和幻觉式执行等具体失败模式。很有意思的是，只指定初始步骤、把剩余部分留给智能体的部分运行框架，反而可以达到比完全结构化工作流更高的通过率。 论文 | 原帖 论文 原帖 10. Epicure Epicure 从零开始训练了一组多语言食材嵌入，使用的是来自 11 个来源、覆盖七种语言、共 414 万份食谱的数据；原始食材字符串通过 LLM 增强流程规范化为 1,790 个标准条目。它发布了三种 skip gram（Metapath2Vec）变体，架构相同，但游走对象不同：只看食谱共现，只看 FlavorDB 的化合物结构，或混合两者，把每个模型放在“化学信号”和“食谱上下文”这条谱系上的不同位置。结果是一张紧凑、可下载的食物涌现几何图谱，也清楚提醒我们：表征学习不只适用于文本，也能很好地泛化到非常日常的领域。 论文 | 原帖 论文 原帖 原帖链接：https://x.com/dair ai/status/2061104052818108476 原帖链接：https://x.com/dair ai/status/2061104052818108476 本周顶级 AI 论文 1. SkillOpt Microsoft Research 将一份紧凑的自然语言 Skill 文档视为冻结智能体的可训练状态，然后通过多轮运行、反思，以及受边界约束的编辑来学习这份文档；每次编辑都要经过留出验证的门禁。它的观点很直接：多数工程师手写智能体 Skill 文档，然后期待它能泛化；但文档本身其实也应该像参数一样被优化。SkillOpt 把 SKILL.md 文件重新定义为模型的外部参数，而模型权重始终不变。 • 把 Skill 文档当作可训练参数：优化器模型会向 Skill 文件提出经过验证门禁的编辑，包括新增、删除或替换指令。文本学习率控制每一轮改写文档的激进程度，批量和动量也在文本空间中描述，而不是在梯度空间中描述。 • 用验证门禁取代碰运气：每次编辑都必须通过留出检查才会被保留。这让 Skill 编写从凭直觉调提示词，变成了有明确目标、可度量的优化闭环。 • 52 项全胜：SkillOpt 在 6 个基准测试和 7 个目标模型上，击败了 Trace2Skill、TextGrad、GEPA、EvoSkill、人类编写的 Skills，以及一次性生成的 Skills。相比没有 Skill 的基线，它在 GPT 5.5 直接聊天中大约提升 +23.5 分，在 Codex 闭环中提升 +24.8 分，在 Claude Code 中提升 +19.1 分。 • 为什么重要：如果 Skill 文档就是你要优化的对象，瓶颈就会从基础模型能力，转移到你能否围绕冻结智能体训练好这份自然语言状态。这是一个便宜、与模型无关、但多数团队还没有充分利用的杠杆。 论文 | 原帖 论文 原帖 2. 将智能体工作流编译进权重 这篇论文展示了一个完整的智能体工作流可以被蒸馏进小模型的权重中，在保持接近前沿模型任务质量的同时，将推理成本降低约两个数量级。它不再把外部编排器放在 LLM 之上，而是把流程编译进经过微调的模型权重里，作者称之为潜层智能体。 • 编译的是整个工作流，而不只是答案：被编译的流程包含多步 LLM 调用、工具调用、中间草稿区和决策点。学生模型内化的是编排逻辑，而不是只模仿最终输出。 • 编排器被融入模型：经典智能体框架会在每次请求时，在模型上方运行一个规划闭环。把这个闭环编译进权重，可以移除每次调用都要付出的编排开销，而这些开销正是多数成本和延迟所在。 • 成本降低约 100 倍，质量接近前沿水平：在评估任务上，蒸馏后的小模型保持了接近原工作流的质量，同时把推理成本降低约两个数量级。节省来自把多次模型调用折叠成一次前向传播。 • 为什么重要：多数生产级智能体每天会反复为同一套编排闭环付费，运行成千上万次。如果这个闭环可以一次性编译进便宜模型，那么部署智能体系统的经济性会明显改变，尤其适合高频、窄域的工作流。 论文 | 原帖 论文 原帖 3. AutoScientists