[趋势研究] AIGS - "人工智能生成科学"的可行性解读

[趋势研究] AIGS "人工智能生成科学"的可行性解读 [趋势研究] AIGS "人工智能生成科学"的可行性解读 Modified June 1, 2025 1517 1708 No access 2411.11910v2.pdf 这个图做了一个示例，把NL（自然语言）翻译成DSL（半结构化的编程语言），从而解决NL擅长表达，但无法执行，Coding完全可执行，但难以实现无错误执行NL的意图两个极端上找到一个平衡的过渡点。 AIGS 的设计框架 下面这张图是整个AIGS 流程的设计思路： 左边的部分是预证伪阶段，从左到右分别是： PA （Proposal Agent） 以任务的详细描述、过去实验的记录以及 RA 生成的评审（非首次迭代）作为输入，并输出一个包含想法、语言和 DSL 格式的方法论以及其他必要组件的建议，以供 EA 进行实验。 这几个公式。。。完全是吃饱了撑的，其实就是回归。。。把上一轮的信息作为初始条件给下一轮迭代用。（i）为当前迭代次数，M为最大迭代次数。。。下面不说了。。。 EA （Experiment Agent） 负责在AIGS系统中根据PA的输入进行实验，根据PA的输入信息，将与实验相关的 DSL 组件解释为可执行代码。执行后，把实验结果以及整个实验过程传输给 RA 进行审查和分析。 RA （Review Agent） 根据EA的实验结果对提出的想法和方法进行评审。将实验记录和提案内容整体作为输入，生成相应多角度的评审内容。然后把评审结果返回给 PA，用于下一轮的提案优化与完善。通过在预证伪阶段中上述代理之间的迭代过程，逐步演化和提升猜想的创造性。 右边是证伪阶段 FA (Falsification Agent) 负责进行消融研究（ablation studies）并最终得出科学发现。FA的输入为所有其他智能体的多轮对话日志，它能够访问整个“前证伪阶段”（Pre Falsification phase）的记录，并基于实验结果推测可能影响关键实验现象的重要因素。随后，它会设计并执行 T 次消融实验以验证这些假设，从而得出最终的科学发现，或者推翻整个理论体系。 另外这张图里面还列出了一些可选模块，辅助增强几个主要Agent的性能 • Literature Agent 负责收集和提供相关文献，以支持所有其他智能体的工作。（有点像现在的DR） • Security Agent 通过识别和阻止可能带来安全隐患或侵犯知识产权的行为，确保实验的安全执行。 • Environment Agent 创建模拟环境，以促进对想法的测试与优化，使得科学发现过程更加可控和精确。 • Domain Specific Exp Agent 可定制的、针对特定领域的智能体。 • Human Interface 允许系统中的不同智能体在必要时向人类研究人员寻求帮助。 MSS 多样本并行策略 Multi Sampling Strategy 在预证伪阶段，用多样本并行的策略去不断跑PA，EA，RA，提升最终Proposal的效率，这部分没有细讲，但是结合其他算法的奖惩机制，比如MCTS [算法学习] 蒙特卡洛树搜索(MCTS)vs.传统搜索，可以提升获得证伪方案的效率。但具体操作方法没说，猜测作者可能也缺少样本证明。 FA阶段的方法论 FA 可以访问所有历史记录，包括来自 PA 的建议、来自 EA 的实验结果以及来自 RA 的评论。“假设”重要的科学发现更有可能从重大的实验现象中产生，即结果的变化，因此，B AIGS 中的 FA首先执行“显著性筛选”，以识别具有最大性能差异的预证伪阶段相邻回合。下面图里Turn4 Turn5 和 Turn 8 Turn 9的阶段。把这些出现显著变化的相关特征作为科学发现的优先候选，然后生成消融实验的计划并且完成执行。每次消融实验都会专注于验证最可能影响实验结果的单一因素。也就是 FA 必须从预证伪阶段选择一个迭代作为消融研究的基线，并且遵循基线的“实验设置”，根据消融因素修改方法。 为了得到相对稳健的结果，基线选择和消融实验会重复很多次，最终FA会得到所有实验的记录，从而最终判断科学发现的有效性。 考核的指标 从定性角度上讲，文章提出了三点KPI：falsification（可证伪性）, creativity（创造性）, and executability（可执行性），这个外行不好评价，得学术圈来拍这个板，实际选用了机器学习的几个研究主题作为demo，KPI分数有点水（人类benchmark说用了顶级学术会议研究做标准，但这个评分不是很靠谱，可能是样本量太少），另外标准差（STD）仍然有点大，还有大量需要优化的地方。 结论 方法论层面，这个flow看上去思路应该是对的（人类科学家也是这个流程去做研究），但自动化的可实现性仍然有待商榷，目前还只是举了几个Demo，还没有看到哪怕是像AlphaEvolve这种渐进式创新的实例。每个Agent在落地构造上还需要根据实际使用的模型来微调奖惩机制，以及细化的COT。但我直观的感觉，哪怕这个flow实现了，也还是只能在现有的理论基础上做微创新或者渐进式创新。 核心的问题在于预证伪之前，如何提出一个真正具有足够“创造性”的假设，决定了AIGS的天花板，而这个是LLM最缺的一环。无论DR还是最新的原始模型，都缺乏一种叫“好奇心/或者探索欲”的东西作为原生的推力，而且在这么多轮模型迭代的状况来看没有特别明显的改善（倾向于解答问题而不是提出问题）。这个在上一篇文章里也有提到，大概这部分是人类外部干预的重心，然后Agent延申去尝试验证。“完全自动化” 主观感觉短期还做不到，但辅助效率应该是有很大提升的。 [[算法学习] 蒙特卡洛树搜索(MCTS)vs.传统搜索](https://uspen5wvmk.feishu.cn/wiki/RqPCwujPGitP13kSXckcPG7Knqh) No access 2411.11910v2.pdf No access 2411.11910v2.pdf 这个图做了一个示例，把NL（自然语言）翻译成DSL（半结构化的编程语言），从而解决NL擅长表达，但无法执行，Coding完全可执行，但难以实现无错误执行NL的意图两个极端上找到一个平衡的过渡点。 AIGS 的设计框架 下面这张图是整个AIGS 流程的设计思路： 左边的部分是预证伪阶段，从左到右分别是： PA （Proposal Agent） 以任务的详细描述、过去实验的记录以及 RA 生成的评审（非首次迭代）作为输入，并输出一个包含想法、语言和 DSL 格式的方法论以及其他必要组件的建议，以供 EA 进行实验。 这几个公式。。。完全是吃饱了撑的，其实就是回归。。。把上一轮的信息作为初始条件给下一轮迭代用。（i）为当前迭代次数，M为最大迭代次数。。。下面不说了。。。 EA （Experiment Agent） 负责在AIGS系统中根据PA的输入进行实验，根据PA的输入信息，将与实验相关的 DSL 组件解释为可执行代码。执行后，把实验结果以及整个实验过程传输给 RA 进行审查和分析。 RA （Review Agent） 根据EA的实验结果对提出的想法和方法进行评审。将实验记录和提案内容整体作为输入，生成相应多角度的评审内容。然后把评审结果返回给 PA，用于下一轮的提案优化与完善。通过在预证伪阶段中上述代理之间的迭代过程，逐步演化和提升猜想的创造性。 右边是证伪阶段 FA (Falsification Agent) 负责进行消融研究（ablation studies）并最终得出科学发现。FA的输入为所有其他智能体的多轮对话日志，它能够访问整个“前证伪阶段”（Pre Falsification phase）的记录，并基于实验结果推测可能影响关键实验现象的重要因素。随后，它会设计并执行 T 次消融实验以验证这些假设，从而得出最终的科学发现，或者推翻整个理论体系。 另外这张图里面还列出了一些可选模块，辅助增强几个主要Agent的性能 • Literature Agent 负责收集和提供相关文献，以支持所有其他智能体的工作。（有点像现在的DR） • Security Agent 通过识别和阻止可能带来安全隐患或侵犯知识产权的行为，确保实验的安全执行。 • Environment Agent 创建模拟环境，以促进对想法的测试与优化，使得科学发现过程更加可控和精确。 • Domain Specific Exp Agent 可定制的、针对特定领域的智能体。 • Human Interface 允许系统中的不同智能体在必要时向人类研究人员寻求帮助。 MSS 多样本并行策略 Multi Sampling Strategy 在预证伪阶段，用多样本并行的策略去不断跑PA，EA，RA，提升最终Proposal的效率，这部分没有细讲，但是结合其他算法的奖惩机制，比如MCTS [算法学习] 蒙特卡洛树搜索(MCTS)vs.传统搜索，可以提升获得证伪方案的效率。但具体操作方法没说，猜测作者可能也缺少样本证明。 [[算法学习] 蒙特卡洛树搜索(MCTS)vs.传统搜索](https://uspen5wvmk.feishu.cn/wiki/RqPCwujPGitP13kSXckcPG7Knqh) FA阶段的方法论 FA 可以访问所有历史记录，包括来自 PA 的建议、来自 EA 的实验结果以及来自 RA 的评论。“假设”重要的科学发现更有可能从重大的实验现象中产生，即结果的变化，因此，B AIGS 中的 FA首先执行“显著性筛选”，以识别具有最大性能差异的预证伪阶段相邻回合。下面图里Turn4 Turn5 和 Turn 8 Turn 9的阶段。把这些出现显著变化的相关特征作为科学发现的优先候选，然后生成消融实验的计划并且完成执行。每次消融实验都会专注于验证最可能影响实验结果的单一因素。也就是 FA 必须从预证伪阶段选择一个迭代作为消融研究的基线，并且遵循基线的“实验设置”，根据消融因素修改方法。 为了得到相对稳健的结果，基线选择和消融实验会重复很多次，最终FA会得到所有实验的记录，从而最终判断科学发现的有效性。 考核的指标 从定性角度上讲，文章提出了三点KPI：falsification（可证伪性）, creativity（创造性）, and executability（可执行性），这个外行不好评价，得学术圈来拍这个板，实际选用了机器学习的几个研究主题作为demo，KPI分数有点水（人类benchmark说用了顶级学术会议研究做标准，但这个评分不是很靠谱，可能是样本量太少），另外标准差（STD）仍然有点大，还有大量需要优化的地方。 结论 方法论层面，这个flow看上去思路应该是对的（人类科学家也是这个流程去做研究），但自动化的可实现性仍然有待商榷，目前还只是举了几个Demo，还没有看到哪怕是像AlphaEvolve这种渐进式创新的实例。每个Agent在落地构造上还需要根据实际使用的模型来微调奖惩机制，以及细化的COT。但我直观的感觉，哪怕这个flow实现了，也还是只能在现有的理论基础上做微创新或者渐进式创新。 核心的问题在于预证伪之前，如何提出一个真正具有足够“创造性”的假设，决定了AIGS的天花板，而这个是LLM最缺的一环。无论DR还是最新的原始模型，都缺乏一种叫“好奇心/或者探索欲”的东西作为原生的推力，而且在这么多轮模型迭代的状况来看没有特别明显的改善（倾向于解答问题而不是提出问题）。这个在上一篇文章里也有提到，大概这部分是人类外部干预的重心，然后Agent延申去尝试验证。“完全自动化” 主观感觉短期还做不到，但辅助效率应该是有很大提升的。 💡 上一篇“未来不需要我们”发现了篇论文《AIGS: GENERATING SCIENCE FROM AI POWERED AUTOMATED FALSIFICATION》，大体看了下还挺有意思的，结合Indigo的对谈，值得深入去看一下，或许下个阶段（可能未来1 2年），AI就可以独立做研究项目，并且发现新的知识体系了。 上一篇“未来不需要我们”发现了篇论文《AIGS: GENERATING SCIENCE FROM AI POWERED AUTOMATED FALSIFICATION》，大体看了下还挺有意思的，结合Indigo的对谈，值得深入去看一下，或许下个阶段（可能未来1 2年），AI就可以独立做研究项目，并且发现新的知识体系了。 论文原文：清华出的，虽然我觉得LLM厂商的范式很可能已经迭代得更高级了，但产品放出来之前大众无法接触到，所以开源的方法论还是可以看一看，提供些想法。 背景 证伪主义 首先深度学习这套方法，可以让研究院利用海量的数据高效提取潜在规律（比如做收敛），并且根据结果调整奖励和惩罚机制快速迭代。文中举了几个典型的例子：蛋白质结构预测（2021 年）、引力波探测（2018 年）和等离子体控制（2022 年）都是深度学习方法的受益者。而随着AI Agent的上下文能力，推理能力和工具权限不断提升，很多大厂都在期望AI可以从一个研究助手直接上升到自主完成整个项目的研究员的角色。这里提出了一个新的概念： 科学类AI → AI生成科学 (AI Generated Science, AIGS) 现代科学研究体系中，证伪是一个非常重要的概念。证伪主义是英国哲学家波普尔在1935年提出的关于科学方法、科学分界标准和科学发展模式的学说，反对归纳主义。证伪主义强调的科学方法是猜测一反驳方法或试错法。任何科学理论都是试探地被提出，然后加以检验。如果检验的结果表明这个理论是错误的，这个理论就要被放弃，为新的理论所代替。试探性理论总有可能是错的，在科学中应该贯彻批判的精神，通过批判性的讨论和研究，当人们认识到这些错误，从错误中吸取教训，推动科学发展。 被否定的归纳法的逻辑 归纳是已过去的事情证明未来的事情（通常是线性发展的），但我们都知道，很多事物发展并不是线性的，过去不能证明未来，是从有限的事例推广到无限的定律，有限不能证明无限，在哲学上也不能把两者等同起来。归纳不是一个严密的逻辑形式推理，而是一个概率推理，从单称命题过渡到全称命题缺乏逻辑。 证伪主义的步骤 LLM的幻觉 最近的研究中已经证明了 LLM 在科学写作中的使用呈稳步增长趋势。当正确使用时，LLMs 可以提高研究效率和展示效果；但当被误用时，鉴于LLM的强大语言润色和结构化的能力，很容易让学术类的写作出现难以察觉的错误，甚至导致整个学说的错误导向。这个趋势给学术界的诚信带来了巨大挑战。而证伪主义的方法论，让AI始终从批判性的角度来审视学术成果，一定意义上减少了大模型幻觉对于最终结果的影响。 自主科学家 (AI as an Automated Scientist) 暂且简称AAAA吧 ，Agent 目前最大的意义在于任务拆分与协作，让AI可以利用有限的上下文，把复杂的任务拆解成一个个相对简单的模块，像搭乐高一样处理任务。而端到端的科学研究可能是目前最具有挑战性和吸引力的方向。包括OpenAI的Deep Research（像是AAAA的其中一个环节），Grok 3.5等大厂都在往这个领域发力。按照论文里提到的2024年的一些最新进展，LLM目前还不具备完全自主发现可证伪的科学理论，大量的研究还处于偏早期阶段，但方向上跟一些学术圈的朋友聊过，确实是没什么问题的。 BABY AIGS 方法的提出 这个框架是完全参照波普尔的证伪主义进行构建的。包括两个主要阶段：前证伪阶段，涵盖研究思路的探索、研究方法的完善以及理论或实证分析，以及证伪阶段，涉及假设科学定律并根据理论或实证发现来验证这些假设。 DSL 将自然语言向可执行的编程语言进行过渡 BABY AIGS用到了一个特殊的语言格式“Domain Specific Language” DSL，这个属于编程语言中的一个概念，和通用的Python，Java等语言相对，DSL专注于特定领域的任务处理，所有的语法都围绕特定领域设计，相比通用编程语言，可以让LLM更高效发挥潜力。下面举例应该就很熟悉了