6.21-6.28｜本周热门 AI 论文

6.21 6.28｜本周热门 AI 论文 🥇 6.21 6.28｜本周热门 AI 论文 Modified June 29 合成训练数据的构建，大多仍然停留在固定流水线上：你手动调好一次，然后冻结。Autodata 重新思考了这件事：它把 AI 智能体视为数据科学家，由它构建高质量训练和评测数据，再对这个智能体进行元优化，让它随着时间推移学会创造更强的数据。 • 把智能体当作数据科学家： Autodata 是一种通用表述，其中 AI 智能体扮演数据科学家，负责构建训练数据和评测数据。作者把它实现成一个具体、实用的系统，称为 Agentic Self Instruct。 • 元优化带来复利： 除了用智能体生成数据，团队还训练，也就是元优化这个数据科学家智能体本身。这个自我改进步骤带来的性能提升，比基础智能体数据创建本身更大。 • 跨领域稳定有效： 在计算机科学研究任务、法律推理，以及数学对象推理中，Autodata 都优于经典合成数据集创建方法，说明它不依赖某一种特定问题类型。 • 重要性： 智能体式数据创建可以把更多推理计算转化为更高质量训练数据。这提供了一条可能改变团队构建数据集方式的路径，而不是冻结一条流水线，然后期待它能泛化。 论文 | 推文 4. Critique of the Agent Model 如今，“智能体”这个词可以指从带工具调用的 for 循环，到想象中的机器超级智能几乎一切东西。这让它作为技术术语几乎失去作用。Eric Xing 及合作者的这篇立场论文试图修正这一点：它追问智能体到底是什么、agency 由什么构成，并借助笛卡尔思想以及科幻作品中对自主存在的描绘来奠定讨论基础。 • agency 的五个维度： 作者沿着目标、身份、决策、自我调节和学习五个维度分析智能体架构，并认为真正的 agency 要求这些结构内化在系统中，而不是通过外部脚手架拼装出来。 • agentic 与 agentive： 论文明确区分了 agentic 系统和 agentive 系统。前者的能力存在于工程化工作流中；后者的能力，包括社会交互能力，是内生出现的。这条边界区分了任务特定工具与开放世界自主性。 • 一个具体架构： 基于上述分析，作者提出 Goal Identity Configurator，结合了层级目标分解、身份演化、以单独训练的世界模型为基础的模拟推理、学习到的自我调节，以及来自真实和模拟经验的自我导向学习。 • 重要性： 清晰定义在这里不是学术抠字眼。它会影响我们构建什么，以及我们应该合理担心什么。论文把可审计性、可控制性和安全性放在核心位置，面向那些拥有更多自主性、但仍需处在人类监督下的系统。 论文 | 推文 编辑寄语 我们刚刚发布了 LLM as a Judge，这是一个 DAIR Academy 实战实验室。你会从零开始构建一个 LLM 评审器，用来评测开放式 AI 输出。在 6 个短实验中，你会按照评分规则给支持机器人生成的自由文本回复打分，然后用人类标签验证这个评审器，并增强它对偏见的抵抗力。最终，你会得到一个小型、可信的评测工具链，可以指向任何开放式任务。 开始 LLM as a Judge 5. Agent as a Router 大多数用户现在可以访问许多 LLM，而每个模型又擅长不同领域。因此，把每个任务路由给合适模型，对质量和成本都很重要。现有路由器通常把这件事当作静态的一次性分类问题，而这篇论文表明，正是这种表述限制了它们。 • 信息不足才是瓶颈： 只是在普通 LLM 路由器中加入任务维度级别的性能统计，就能带来 15.3% 的相对提升，并超过基于相同先验构建的启发式路由器。这说明真正的限制不是模型选择，而是缺失信息。 • 把路由做成闭环： Agent as a Router 将路由形式化为 Context、Action、Feedback、Context 循环，让系统在部署期间积累来自执行过程的经验，而不是一次决策后就结束。 • 具体系统和基准： 该框架被实例化为 ACRouter，由 Orchestrator、Verifier 和 Memory 模块构成。作者还发布了 CodeRouterBench，包含约 10K 个任务实例，覆盖 8 个前沿 LLM，用于在流式任务上基于 regret 进行比较。 • 重要性： ACRouter 在同分布任务上实现最低累计 regret，并能泛化到分布外的智能体式编程任务。这说明，要弥合信息缺口，关键不是把路由器当分类器，而是把它当成会收集经验的智能体。 论文 | 推文 6. Agent Communication Protocols 随着多智能体系统试图突破单体智能体的限制，通信变成了承重基础设施，而相关协议生态却相当碎片化。这项研究构建了一个技术分类法，用来分类和比较 LLM 智能体通信协议，并让互操作性问题变得清晰可见。 • 五维分类法： 按照一种成熟的迭代方法，作者从通信对象、载荷、交互状态、发现机制和 schema 灵活性五个维度对协议分类。这个分类法来自对 9 个仍在积极维护、且已有真实采用的开源协议进行 5 轮迭代分析。 • 反复出现的架构模式： 所有被采样的智能体到智能体协议，都将混合载荷与会话状态持久化结合起来。多数协议支持多个预定义 schema，其中两个还会在运行时协商 schema，显示出向 schema 灵活性发展的明确趋势。 • 缺口在哪里： 去中心化发现仍然罕见。分析表明，短期内会有收敛压力，推动协议统一智能体到智能体通信，以及智能体到上下文的工具和数据通信。 • 重要性： 可能没有单一协议能同时最大化通用性、效率和可移植性。因此，这个领域很可能演化为联邦式、分层的协议栈。这个分类法给团队提供了选择协议的方法，也暴露出隐私和策略执行等开放问题。 论文 | 推文 7. A Pinch of Human Data 自博弈强化学习可以在完全没有人类数据的情况下训练驾驶策略，用廉价的大规模仿真替代昂贵的人类示范。问题在于，纯自博弈往往会发现有效但陌生的驾驶约定，真实人类很难与之协作，而常见修复方法又依赖脆弱的奖励工程和领域随机化。 • 把人类数据作为正则项： 这种方法既不丢弃示范，也不完全模仿示范，而是把人类数据作为一个正则化目标，叠加在最小化的安全到达目标奖励之上，让行为保持与人类兼容，同时避免手工调驾驶约定。 • 少量数据就足够： 仅 30 分钟人类示范，大约比可比的模仿学习方法少 2500 倍，就足以把自博弈策略拉回到人类兼容的行为模式。 • 训练成本低： 得到的策略可以与留出的人类轨迹协同，并且只需在单张消费级 GPU 上训练 15 小时。这让方案更容易获得，而不是只属于前沿实验室。 • 重要性： 在共享环境中部署自主策略，难点在于让行为与人类对齐。这项工作显示，只要放置得当，极少量人类数据就能修复大量奖励工程难以解决的问题，为人类与 AI 协调指向一条更干净的路径。 论文 | 推文 8. Skill MAS 多智能体系统的自动生成，目前卡在两类方法之间：推理时方法可以复用冻结的前沿模型，但不会学习；训练时方法可以通过梯度更新内化经验，却受限于那些小到能微调、但能力较弱的模型。Skill MAS 提出第三条路径：把高层编排视为一种可演化的 Meta Skill，将经验保留与权重更新解耦。这样，前沿模型无需任何梯度步骤，也能在编排能力上持续变强。在 4 个复杂基准和 4 个不同 LLM 上，它都带来了强劲、可迁移的收益，并具备有利的成本性能权衡。 论文 | 推文 9. Reliability without Validity LLM as a Judge 已经成为评测语言模型的默认方式，但用精确匹配一致率验证这些评审器，从来没有校正随机一致性，因此会系统性高估它们的质量。在迄今最大规模的审计中，作者覆盖来自 9 家提供商的 21 个评审器，在 MT Bench、JudgeBench 和 RewardBench 上运行 118 次，产生约 541,000 条判断。原始一致率与经过随机校正的 Cohen's kappa 之间相差 33 到 41 个百分点；不同基准上的排名最多会移动 14 位；高重测可靠性还可能与严重位置偏差共存。作者将发现提炼为 Minimum Viable Validation Protocol，帮助团队在信任评审器之前先对其做压力测试。 论文 | 推文 10. NatureBench 编码智能体能否从复现实验走向真实科学问题上的实际发现？NatureBench 从经同行评审的 Nature 系列论文中提炼出 90 个跨学科任务，并在 NatureGym 中运行它们。NatureGym 是一条自动化流水线，会为每个任务构建标准化容器环境，用来解决环境碎片化问题。在严格禁用网络搜索的协议下，10 个前沿智能体配置中最强的一个，只在 17.8% 的任务上超过已发表 SOTA。进一步分析显示，智能体的成功主要来自把问题转化为熟悉的监督预测任务，而不是真正的科学发明。 论文 论文 推文 论文 推文 论文 推文 论文 推文 论文 推文 论文 推文 论文 推文 论文 合成训练数据的构建，大多仍然停留在固定流水线上：你手动调好一次，然后冻结。Autodata 重新思考了这件事：它把 AI 智能体视为数据科学家，由它构建高质量训练和评测数据，再对这个智能体进行元优化，让它随着时间推移学会创造更强的数据。 • 把智能体当作数据科学家： Autodata 是一种通用表述，其中 AI 智能体扮演数据科学家，负责构建训练数据和评测数据。作者把它实现成一个具体、实用的系统，称为 Agentic Self Instruct。 • 元优化带来复利： 除了用智能体生成数据，团队还训练，也就是元优化这个数据科学家智能体本身。这个自我改进步骤带来的性能提升，比基础智能体数据创建本身更大。 • 跨领域稳定有效： 在计算机科学研究任务、法律推理，以及数学对象推理中，Autodata 都优于经典合成数据集创建方法，说明它不依赖某一种特定问题类型。 • 重要性： 智能体式数据创建可以把更多推理计算转化为更高质量训练数据。这提供了一条可能改变团队构建数据集方式的路径，而不是冻结一条流水线，然后期待它能泛化。 论文 | 推文 论文 推文 4. Critique of the Agent Model 如今，“智能体”这个词可以指从带工具调用的 for 循环，到想象中的机器超级智能几乎一切东西。这让它作为技术术语几乎失去作用。Eric Xing 及合作者的这篇立场论文试图修正这一点：它追问智能体到底是什么、agency 由什么构成，并借助笛卡尔思想以及科幻作品中对自主存在的描绘来奠定讨论基础。 • agency 的五个维度： 作者沿着目标、身份、决策、自我调节和学习五个维度分析智能体架构，并认为真正的 agency 要求这些结构内化在系统中，而不是通过外部脚手架拼装出来。 • agentic 与 agentive： 论文明确区分了 agentic 系统和 agentive 系统。前者的能力存在于工程化工作流中；后者的能力，包括社会交互能力，是内生出现的。这条边界区分了任务特定工具与开放世界自主性。 • 一个具体架构： 基于上述分析，作者提出 Goal Identity Configurator，结合了层级目标分解、身份演化、以单独训练的世界模型为基础的模拟推理、学习到的自我调节，以及来自真实和模拟经验的自我导向学习。 • 重要性： 清晰定义在这里不是学术抠字眼。它会影响我们构建什么，以及我们应该合理担心什么。论文把可审计性、可控制性和安全性放在核心位置，面向那些拥有更多自主性、但仍需处在人类监督下的系统。 论文 | 推文 论文 推文 编辑寄语 我们刚刚发布了 LLM as a Judge，这是一个 DAIR Academy 实战实验室。你会从零开始构建一个 LLM 评审器，用来评测开放式 AI 输出。在 6 个短实验中，你会按照评分规则给支持机器人生成的自由文本回复打分，然后用人类标签验证这个评审器，并增强它对偏见的抵抗力。最终，你会得到一个小型、可信的评测工具链，可以指向任何开放式任务。 开始 LLM as a Judge 5. Agent as a Router 大多数用户现在可以访问许多 LLM，而每个模型又擅长不同领域。因此，把每个任务路由给合适模型，对质量和成本都很重要。现有路由器通常把这件事当作静态的一次性分类问题，而这篇论文表明，正是这种表述限制了它们。 • 信息不足才是瓶颈： 只是在普通 LLM 路由器中加入任务维度级别的性能统计，就能带来 15.3% 的相对提升，并超过基于相同先验构建的启发式路由器。这说明真正的限制不是模型选择，而是缺失信息。 • 把路由做成闭环： Agent as a Router 将路由形式化为 Context、Action、Feedback、Context 循环，让系统在部署期间积累来自执行过程的经验，而不是一次决策后就结束。 • 具体系统和基准： 该框架被实例化为 ACRouter，由 Orchestrator、Verifier 和 Memory 模块构成。作者还发布了 CodeRouterBench，包含约 10K 个任务实例，覆盖 8 个前沿 LLM，用于在流式任务上基于 regret 进行比较。 • 重要性： ACRouter 在同分布任务上实现最低累计 regret，并能泛化到分布外的智能体式编程任务。这说明，要弥合信息缺口，关键不是把路由器当分类器，而是把它当成会收集经验的智能体。 论文 | 推文 论文 推文 6. Agent Communication Protocols 随着多智能体系统试图突破单体智能体的限制，通信变成了承重基础设施，而相关协议生态却相当碎片化。这项研究构建了一个技术分类法，用来分类和比较 LLM 智能体通信协议，并让互操作性问题变得清晰可见。 • 五维分类法： 按照一种成熟的迭代方法，作者从通信对象、载荷、交互状态、发现机制和 schema 灵活性五个维度对协议分类。这个分类法来自对 9 个仍在积极维护、且已有真实采用的开源协议进行 5 轮迭代分析。 • 反复出现的架构模式： 所有被采样的智能体到智能体协议，都将混合载荷与会话状态持久化结合起来。多数协议支持多个预定义 schema，其中两个还会在运行时协商 schema，显示出向 schema 灵活性发展的明确趋势。 • 缺口在哪里： 去中心化发现仍然罕见。分析表明，短期内会有收敛压力，推动协议统一智能体到智能体通信，以及智能体到上下文的工具和数据通信。 • 重要性： 可能没有单一协议能同时最大化通用性、效率和可移植性。因此，这个领域很可能演化为联邦式、分层的协议栈。这个分类法给团队提供了选择协议的方法，也暴露出隐私和策略执行等开放问题。 论文 | 推文 论文 推文 7. A Pinch of Human Data 自博弈强化学习可以在完全没有人类数据的情况下训练驾驶策略，用廉价的大规模仿真替代昂贵的人类示范。问题在于，纯自博弈往往会发现有效但陌生的驾驶约定，真实人类很难与之协作，而常见修复方法又依赖脆弱的奖励工程和领域随机化。 • 把人类数据作为正则项： 这种方法既不丢弃示范，也不完全模仿示范，而是把人类数据作为一个正则化目标，叠加在最小化的安全到达目标奖励之上，让行为保持与人类兼容，同时避免手工调驾驶约定。 • 少量数据就足够： 仅 30 分钟人类示范，大约比可比的模仿学习方法少 2500 倍，就足以把自博弈策略拉回到人类兼容的行为模式。 • 训练成本低： 得到的策略可以与留出的人类轨迹协同，并且只需在单张消费级 GPU 上训练 15 小时。这让方案更容易获得，而不是只属于前沿实验室。 • 重要性： 在共享环境中部署自主策略，难点在于让行为与人类对齐。这项工作显示，只要放置得当，极少量人类数据就能修复大量奖励工程难以解决的问题，为人类与 AI 协调指向一条更干净的路径。 论文 | 推文 论文 推文 8. Skill MAS 多智能体系统的自动生成，目前卡在两类方法之间：推理时方法可以复用冻结的前沿模型，但不会学习；训练时方法可以通过梯度更新内化经验，却受限于那些小到能微调、但能力较弱的模型。Skill MAS 提出第三条路径：把高层编排视为一种可演化的 Meta Skill，将经验保留与权重更新解耦。这样，前沿模型无需任何梯度步骤，也能在编排能力上持续变强。在 4 个复杂基准和 4 个不同 LLM 上，它都带来了强劲、可迁移的收益，并具备有利的成本性能权衡。 论文 | 推文 论文 推文 9. Reliability without Validity LLM as a Judge 已经成为评测语言模型的默认方式，但用精确匹配一致率验证这些评审器，从来没有校正随机一致性，因此会系统性高估它们的质量。在迄今最大规模的审计中，作者覆盖来自 9 家提供商的 21 个评审器，在 MT Bench、JudgeBench 和 RewardBench 上运行 118 次，产生约 541,000 条判断。原始一致率与经过随机校正的 Cohen's kappa 之间相差 33 到 41 个百分点；不同基准上的排名最多会移动 14 位；高重测可靠性还可能与严重位置偏差共存。作者将发现提炼为 Minimum Viable Validation Protocol，帮助团队在信任评审器之前先对其做压力测试。 论文 | 推文 论文 推文 10. NatureBench 编码智能体能否从复现实验走向真实科学问题上的实际发现？NatureBench 从经同行评审的 Nature 系列论文中提炼出 90 个跨学科任务，并在 NatureGym 中运行它们。NatureGym 是一条自动化流水线，会为每个任务构建标准化容器环境，用来解决环境碎片化问题。在严格禁用网络搜索的协议下，10 个前沿智能体配置中最强的一个，只在 17.8% 的任务上超过已发表 SOTA。进一步分析显示，智能体的成功主要来自把问题转化为熟悉的监督预测任务，而不是真正的科学发明。 论文 论文 原帖链接：https://x.com/dair ai/status/2071260362066874395 原帖链接：https://x.com/dair ai/status/2071260362066874395 本周热门 AI 论文（6 月 21 日至 6 月 28 日） 1. Sakana Fugu 前沿 LLM 仍在持续进步，不同提供商也越来越擅长各自不同的领域。一个自然的下一步问题随之出现：如何把这些独立专长组合成一个集体智能系统？Sakana Fugu 给出的答案是一组编排器模型。这些编排器本身也是语言模型，经过训练后可以读取用户查询，并动态设计解决问题所需的智能体脚手架。 • 编排器模型，而不是固定流水线： Fugu 被训练来理解查询，并即时构建自适应的智能体脚手架。它不是把任务路由到单一的冻结工作流，而是调用并放大一组 LLM 智能体的能力。 • 性能超过任何单一智能体： 通过这些查询自适应脚手架，Fugu 在 SWE Bench Pro、Terminal Bench、LiveCodeBench、GPQA Diamond、Humanity's Last Exam 和 CharXiv Reasoning 等基准上，相比其他公开可访问模型达到 SOTA 结果。 • 面向两种场景的两个模型： 团队发布了 Fugu 和 Fugu Ultra。Fugu 在日常使用中平衡答案质量与延迟；Fugu Ultra 则在最难问题上优先追求质量。 • 重要性： 这种训练范式结合了大规模微调、进化算法和强化学习，并配套了将其变成生产系统的基础设施。它指向一条路径：动态、查询自适应脚手架和集体智能，可能成为 AI 能力前沿的下一阶段。 论文 | 推文 论文 推文 2. Agent Native Memory LLM 智能体的记忆能力，已经悄悄从一个检索附加功能，成长为完整的数据系统。持久化存储、检索、更新、整合和生命周期治理，会贯穿智能体执行全过程。但大多数评测仍然只通过 F1、BLEU 这类端到端任务指标来给记忆打分，把整个系统栈当成黑箱。这篇论文从数据管理视角研究智能体记忆，并追问：当我们这样测量记忆时，究竟遗漏了什么？ • 从数据管理视角看记忆： 作者认为，运行成本、记忆模块之间的架构权衡，以及动态知识更新下的鲁棒性，都是一等公民，而任务成功率指标会把它们完全遮住。 • 四模块拆解： 论文将记忆拆成表示与存储、抽取、检索与路由、维护四个模块，然后在横跨 11 个数据集的 5 类工作负载上，评测 12 个代表性记忆系统和两个基线。 • 没有单一架构通吃： 效果取决于记忆结构与工作负载瓶颈的匹配程度。细粒度消融实验量化了每个模块对表示保真度、检索精度、更新正确性和长程稳定性的影响。 • 重要性： 研究显示，局部维护比全局重组更具成本效率。把记忆重新理解为一个具有可测量权衡的系统，才有可能走向真正的智能体原生记忆，而不只是又一个排行榜数字。 论文 | 推文 论文 推文 3. Autodata