喝点VC｜a16z的未来展望：现在AI不是泡沫，因为它还没破裂；只有当投入打水漂，才能确认它曾经是泡沫

喝点VC｜a16z的未来展望：现在AI不是泡沫，因为它还没破裂；只有当投入打水漂，才能确认它曾经是泡沫 喝点VC｜a16z的未来展望：现在AI不是泡沫，因为它还没破裂；只有当投入打水漂，才能确认它曾经是泡沫 Modified December 18, 2025 David Owen ： 看起来确实是这样。 Yafah Edelman ： 我也不清楚硬件方面还有多少问题需要解决。具体来说，有些任务机器人可能确实能完成，但这些任务真的是我们希望机器人完成的吗？如果你希望机器人能够灵活行走、快速移动、举起重物并且做出快速反应，那难度就很大了。这是一个硬件问题，而且我认为目前还没有找到解决方案。 David Owen ： 我的印象和你差不多。人们经常讨论远程工作和体力工作的区别，我觉得很大程度上是因为机器人技术的进展确实有点滞后。甚至有一种直觉认为，物理操作实际上比虚拟任务更难，但我也不太确定。就像 Jeff 说的，你可能也想看看，如果机器人技术的投入规模和 AI 模型一样扩大，会发生什么？或许只是为了搞清楚，物理操作确实更难，还是说只是因为机器人技术的优先级比较低？ 数据中心项目与 AI 扩展：现状、挑战与能源问题 Erik Torenberg ： 有没有什么我们还没谈到，但你觉得很重要，想分享给听众的？ Yafah Edelman ： 我们刚刚提到了数据中心相关的项目。我不知道有没有什么好的方式能详细说明，但 …… Erik Torenberg ： 好的，那我们就来聊聊这个。你们刚刚发布了一个相关项目，不如说说你们想通过这个项目实现什么，希望大家能从中获得什么？ Yafah Edelman ： 好的。我们找到了 13 个目前能找到的最大的数据中心，其中包括美国几个主要实验室的设施。我们获取了这些数据中心的许可证信息，还拍摄了新的卫星图像 —— 覆盖了所有这些数据中心。我们根据它们的冷却基础设施、上线时间和未来规划，估算出了每个数据中心的算力。所有这些真实世界的数据，都在我们的网站上免费提供给大家。做这个项目是为了让大家了解正在进行的大规模基础设施建设，以及建设的速度。其中有些情况让我非常惊讶。比如，我们发现最有可能拥有第一个千兆瓦级数据中心的，竟然是 Anthropic—— 这完全出乎我的意料。 Anthropic 和亚马逊在新卡莱尔合作的 “ 雷尼尔计划 ” （ ProjectRainier ），似乎按计划会在一月份上线，紧随其后的是 “ 巨人二号 ” （ Colossus2 ）数据中心。我们还了解到了很多大型数据中心的具体规划，而不仅仅是营销层面的宣传。有些人会随便抛出一些惊人的数字，但我们发现，真正在认真推进、已经获得许可证并且正在建设电力基础设施的，是微软在芒特普莱森特的一个项目 —— 他们称之为 “ 微软费尔沃特 ” （ MicrosoftFairwater ），这个数据中心至少有一部分是供 OpenAI 使用的。它将消耗的电力 …… 虽然不如纽约市多，但我估计能达到纽约市电力消耗的一半以上。 Erik Torenberg ： 是什么限制了我们大幅扩大集群规模？是成本、供应交付时间、需要其他工程突破，还是电力问题？ Yafah Edelman ： 我觉得大家普遍误解了，认为有什么东西在限制我们扩大规模。实际上，只要有资金，我们就在尽可能快地扩展。我猜大家可能希望所有集群现在就建成，但目前的扩展速度已经相当快了。你可以看看这些数据中心，我刚才提到的 Anthropic 和亚马逊合作的那个，消耗的电力几乎和印第安纳州首府一样多。其中一些数据中心的建设周期是两年，要建造一个消耗城市级电力的设施，这本身就很疯狂。而且很可能，大家现在不想购买芯片，而是想等待更好的芯片问世。很多人说扩展集群很困难，但我觉得这只是一种错觉。之所以会有这种说法，是因为大家不得不比平时多花一些钱。你不能再使用那些旨在慢速提供廉价电力的传统流程，必须购买一些平时不需要的设备，花费比平时更多的钱，但这些额外成本还不足以减慢扩展的速度。而且这些成本和 GPU 的成本相比，根本不值一提。我实际的看法是：扩展集群并没有太大的麻烦，这些建设计划的推进速度已经非常快了。现在不确定的是，人们是否真的有足够的财力和意愿，以更快的速度推进。 Erik Torenberg ： 当人们说能源是提升 AI 能力的主要潜在瓶颈时，你并不担心这会成为一个长期、可持续的瓶颈吗？ Yafah Edelman ： 我不这么认为 …… 人们抱怨能源问题，是因为他们不能再使用传统流程 —— 接入电网，等待四年后获得廉价电力。但归根结底，有很多昂贵的能源解决方案可以选择。比如现在就可以选择太阳能加电池的组合，交付时间相当短。虽然成本可能是常规电力的两倍，但仍然远低于 GPU 的成本。所以如果必须的话，大家都会选择这种方案。你会看到很多人会采取这些成本稍高的应急措施来启动数据中心。我们常见的一种情况是，在数据中心接入电网之前就开始运行。阿比林的数据中心就是一个例子， xAI 的 “ 巨人一号 ” （ ColossusOne ）更是典型 —— 他们只是在寻找昂贵的方式来绕过电力接入的问题。你当然可以抱怨，因为能用上廉价电力当然更好，没人习惯用这么贵的方式。但归根结底，解决方案是存在的，尤其是对于 AI 行业那些愿意花钱的人来说。所以我不认为能源会成为一个显著的瓶颈。 政策回应与终极展望：公众反应、政府角色与未来不确定性 Erik Torenberg ： 也许我们可以就此结束了。如果这些 AI 系统变得像我们讨论的这么强大，我很好奇政治体系会如何回应。我想知道你是否认同阿什（ Ash ）和布伦纳（ Brenner ）的观点，即可能会出现某种形式的国有化。但总的来说，你预期政府会如何回应？考虑到 AI 已经这么强大了，却还没有成为政治话语的核心议题，这一点非常引人注目。你怎么看待这个现象？ Yafah Edelman ： 我预期 …… 回到我之前提到的那个设想，如果六个月内失业率上升 5% ，公众的反应将决定一切。一旦这种情况发生，人们对 AI 的态度会变得非常强烈。 我认为，大家会在一些我们现在根本想不到的事情上形成强烈的共识。我记得新冠疫情期间，各国在几周甚至几天内就通过了数万亿美元的刺激计划，速度非常快。我不知道 AI 会引发什么样的反应，但我觉得 AI 的发展和其他 AI 相关事物一样，都是指数级的 —— 这意味着如果当前的趋势持续下去，人们对 AI 的关注会很快从 “ 有点关心 ” 变成 “ 高度关注 ” 。我只是不知道最终会走向何方。但我可以肯定的是，无论结果如何，大家都会突然同意做一件一年前我们认为完全不可能的事情。 我不知道这件事会是什么 —— 可能是国有化，可能是暂停 AI 发展，可能是加速推进，也可能是完善失业救济制度，谁知道呢？但我认为一定会有某种强烈的回应。 David Owen ： 这种回应会来得非常快。你提到政府对 AI 的兴趣可能比预期的小，但目前 AI 的实际影响确实还没那么大。我觉得关注度正在上升，但 AI 目前还没有强大到足以成为核心政治议题的程度。不过政府其实已经在大量讨论 AI 了，对吧？各种硬件制造商和 AI 公司的人都会和国家元首会面，各国也在制定 AI 战略等等。所以国家政府显然会深度参与其中，问题只是他们会以何种方式参与。是的，具体会怎样，我也不太清楚。 Yafah Edelman ： 我认为目前 AI 行业的收入和财务数据都是每年翻倍甚至三倍增长。我的默认假设是，政策制定者和政府对 AI 的关注也会遵循类似的趋势，每年翻倍或三倍增长。这意味着，如果趋势持续，未来 AI 会受到极大的关注。同时也意味着，现在的关注度已经比去年高很多了，只是不会突然从 “ 很少关注 ” 跳到 “ 全民关注 ”—— 尽管我们的推进速度已经相当快了。 Erik Torenberg ： 我觉得我们已经做了足够多的预测了，明年年底一定要请你们回来，看看这些预测的进展如何，然后再为下一年做预测。 Yafah Edelman ： 非常感谢你们邀请我们参加播客。 David Owen ： 谢谢，非常感谢邀请。 原文： The 2045 Super intelligence Timeline : EpochAI’s Data Driven Forecast https://www.youtube.com/watch?v=TbFSGiQdCaw 编译： Yesenia Ye 请注意，本文编译自文末载明的原始链接，不代表 ZPotentials 立场。如果您对本文有任何想法或见解，欢迎在评论区留言互动探讨。 ZPotentials 将继续提供更多关于人工智能、机器人、全球化等领域的优质内容。我们诚邀对未来充满憧憬的您加入我们的社群，与我们共同分享、学习、成长。 END 关于Z Potentials David Owen ： 看起来确实是这样。 Yafah Edelman ： 我也不清楚硬件方面还有多少问题需要解决。具体来说，有些任务机器人可能确实能完成，但这些任务真的是我们希望机器人完成的吗？如果你希望机器人能够灵活行走、快速移动、举起重物并且做出快速反应，那难度就很大了。这是一个硬件问题，而且我认为目前还没有找到解决方案。 David Owen ： 我的印象和你差不多。人们经常讨论远程工作和体力工作的区别，我觉得很大程度上是因为机器人技术的进展确实有点滞后。甚至有一种直觉认为，物理操作实际上比虚拟任务更难，但我也不太确定。就像 Jeff 说的，你可能也想看看，如果机器人技术的投入规模和 AI 模型一样扩大，会发生什么？或许只是为了搞清楚，物理操作确实更难，还是说只是因为机器人技术的优先级比较低？ 数据中心项目与 AI 扩展：现状、挑战与能源问题 Erik Torenberg ： 有没有什么我们还没谈到，但你觉得很重要，想分享给听众的？ Yafah Edelman ： 我们刚刚提到了数据中心相关的项目。我不知道有没有什么好的方式能详细说明，但 …… Erik Torenberg ： 好的，那我们就来聊聊这个。你们刚刚发布了一个相关项目，不如说说你们想通过这个项目实现什么，希望大家能从中获得什么？ Yafah Edelman ： 好的。我们找到了 13 个目前能找到的最大的数据中心，其中包括美国几个主要实验室的设施。我们获取了这些数据中心的许可证信息，还拍摄了新的卫星图像 —— 覆盖了所有这些数据中心。我们根据它们的冷却基础设施、上线时间和未来规划，估算出了每个数据中心的算力。所有这些真实世界的数据，都在我们的网站上免费提供给大家。做这个项目是为了让大家了解正在进行的大规模基础设施建设，以及建设的速度。其中有些情况让我非常惊讶。比如，我们发现最有可能拥有第一个千兆瓦级数据中心的，竟然是 Anthropic—— 这完全出乎我的意料。 Anthropic 和亚马逊在新卡莱尔合作的 “ 雷尼尔计划 ” （ ProjectRainier ），似乎按计划会在一月份上线，紧随其后的是 “ 巨人二号 ” （ Colossus2 ）数据中心。我们还了解到了很多大型数据中心的具体规划，而不仅仅是营销层面的宣传。有些人会随便抛出一些惊人的数字，但我们发现，真正在认真推进、已经获得许可证并且正在建设电力基础设施的，是微软在芒特普莱森特的一个项目 —— 他们称之为 “ 微软费尔沃特 ” （ MicrosoftFairwater ），这个数据中心至少有一部分是供 OpenAI 使用的。它将消耗的电力 …… 虽然不如纽约市多，但我估计能达到纽约市电力消耗的一半以上。 Erik Torenberg ： 是什么限制了我们大幅扩大集群规模？是成本、供应交付时间、需要其他工程突破，还是电力问题？ Yafah Edelman ： 我觉得大家普遍误解了，认为有什么东西在限制我们扩大规模。实际上，只要有资金，我们就在尽可能快地扩展。我猜大家可能希望所有集群现在就建成，但目前的扩展速度已经相当快了。你可以看看这些数据中心，我刚才提到的 Anthropic 和亚马逊合作的那个，消耗的电力几乎和印第安纳州首府一样多。其中一些数据中心的建设周期是两年，要建造一个消耗城市级电力的设施，这本身就很疯狂。而且很可能，大家现在不想购买芯片，而是想等待更好的芯片问世。很多人说扩展集群很困难，但我觉得这只是一种错觉。之所以会有这种说法，是因为大家不得不比平时多花一些钱。你不能再使用那些旨在慢速提供廉价电力的传统流程，必须购买一些平时不需要的设备，花费比平时更多的钱，但这些额外成本还不足以减慢扩展的速度。而且这些成本和 GPU 的成本相比，根本不值一提。我实际的看法是：扩展集群并没有太大的麻烦，这些建设计划的推进速度已经非常快了。现在不确定的是，人们是否真的有足够的财力和意愿，以更快的速度推进。 Erik Torenberg ： 当人们说能源是提升 AI 能力的主要潜在瓶颈时，你并不担心这会成为一个长期、可持续的瓶颈吗？ Yafah Edelman ： 我不这么认为 …… 人们抱怨能源问题，是因为他们不能再使用传统流程 —— 接入电网，等待四年后获得廉价电力。但归根结底，有很多昂贵的能源解决方案可以选择。比如现在就可以选择太阳能加电池的组合，交付时间相当短。虽然成本可能是常规电力的两倍，但仍然远低于 GPU 的成本。所以如果必须的话，大家都会选择这种方案。你会看到很多人会采取这些成本稍高的应急措施来启动数据中心。我们常见的一种情况是，在数据中心接入电网之前就开始运行。阿比林的数据中心就是一个例子， xAI 的 “ 巨人一号 ” （ ColossusOne ）更是典型 —— 他们只是在寻找昂贵的方式来绕过电力接入的问题。你当然可以抱怨，因为能用上廉价电力当然更好，没人习惯用这么贵的方式。但归根结底，解决方案是存在的，尤其是对于 AI 行业那些愿意花钱的人来说。所以我不认为能源会成为一个显著的瓶颈。 政策回应与终极展望：公众反应、政府角色与未来不确定性 Erik Torenberg ： 也许我们可以就此结束了。如果这些 AI 系统变得像我们讨论的这么强大，我很好奇政治体系会如何回应。我想知道你是否认同阿什（ Ash ）和布伦纳（ Brenner ）的观点，即可能会出现某种形式的国有化。但总的来说，你预期政府会如何回应？考虑到 AI 已经这么强大了，却还没有成为政治话语的核心议题，这一点非常引人注目。你怎么看待这个现象？ Yafah Edelman ： 我预期 …… 回到我之前提到的那个设想，如果六个月内失业率上升 5% ，公众的反应将决定一切。一旦这种情况发生，人们对 AI 的态度会变得非常强烈。 我认为，大家会在一些我们现在根本想不到的事情上形成强烈的共识。我记得新冠疫情期间，各国在几周甚至几天内就通过了数万亿美元的刺激计划，速度非常快。我不知道 AI 会引发什么样的反应，但我觉得 AI 的发展和其他 AI 相关事物一样，都是指数级的 —— 这意味着如果当前的趋势持续下去，人们对 AI 的关注会很快从 “ 有点关心 ” 变成 “ 高度关注 ” 。我只是不知道最终会走向何方。但我可以肯定的是，无论结果如何，大家都会突然同意做一件一年前我们认为完全不可能的事情。 我不知道这件事会是什么 —— 可能是国有化，可能是暂停 AI 发展，可能是加速推进，也可能是完善失业救济制度，谁知道呢？但我认为一定会有某种强烈的回应。 David Owen ： 这种回应会来得非常快。你提到政府对 AI 的兴趣可能比预期的小，但目前 AI 的实际影响确实还没那么大。我觉得关注度正在上升，但 AI 目前还没有强大到足以成为核心政治议题的程度。不过政府其实已经在大量讨论 AI 了，对吧？各种硬件制造商和 AI 公司的人都会和国家元首会面，各国也在制定 AI 战略等等。所以国家政府显然会深度参与其中，问题只是他们会以何种方式参与。是的，具体会怎样，我也不太清楚。 Yafah Edelman ： 我认为目前 AI 行业的收入和财务数据都是每年翻倍甚至三倍增长。我的默认假设是，政策制定者和政府对 AI 的关注也会遵循类似的趋势，每年翻倍或三倍增长。这意味着，如果趋势持续，未来 AI 会受到极大的关注。同时也意味着，现在的关注度已经比去年高很多了，只是不会突然从 “ 很少关注 ” 跳到 “ 全民关注 ”—— 尽管我们的推进速度已经相当快了。 Erik Torenberg ： 我觉得我们已经做了足够多的预测了，明年年底一定要请你们回来，看看这些预测的进展如何，然后再为下一年做预测。 Yafah Edelman ： 非常感谢你们邀请我们参加播客。 David Owen ： 谢谢，非常感谢邀请。 原文： The 2045 Super intelligence Timeline : EpochAI’s Data Driven Forecast https://www.youtube.com/watch?v=TbFSGiQdCaw 编译： Yesenia Ye 请注意，本文编译自文末载明的原始链接，不代表 ZPotentials 立场。如果您对本文有任何想法或见解，欢迎在评论区留言互动探讨。 ZPotentials 将继续提供更多关于人工智能、机器人、全球化等领域的优质内容。我们诚邀对未来充满憧憬的您加入我们的社群，与我们共同分享、学习、成长。 END 关于Z Potentials 🔗 原文链接： https://mp.weixin.qq.com/s/b16Ol PN... https://mp.weixin.qq.com/s/b16Ol PN... a16z Z Potentials2025年12月18日 11:28 北京 图片来源： a16z Z Highlights • 目前来看，企业实际赚到的利润情况其实非常好。如果他们停止开发更大规模的模型，只靠现有的模型运营，按照当前的利润率，很快就能实现盈利。从这个角度来说，现在确实不像是泡沫。 • 总有人说 AI 还没盈利，企业还在持续投入以求盈利。但实际上，他们很快就能收回过去所有的开发成本了。现在的投入，只是为了未来的进一步发展。 • 要推进研发，必须进行更多实验，这也就意味着纯软件奇点很难实现 • 在高端市场，我肯定会预期有新的工作岗位被创造出来。每个人依然可以成为影响者。但在高端领域，确实很难指出哪些具体工作是 AI 目前绝对无法自动化的。 • 单纯砸钱并不会让基准测试变得更好，但平均来说，开发更高级的基准测试确实需要投入更多资源 a16z ：全称 Andreessen Horowitz ，是一家美国私人风险投资公司，由马克 · 安德里森和本 · 霍罗威茨于 2009 年创立。该公司总部位于美国加利福尼亚州门洛帕克。安德里森 · 霍罗威茨投资于早期新创公司和已成熟的成长型公司。其投资范围涵盖医疗保健、消费者、加密货币、游戏、金融科技、教育以及企业信息技术等产业。 AI 泡沫争议 —— 投入、价值与盈利的核心讨论 Erik Torenberg ： 各位，关于 AI 的宏观讨论有很多。我们现在正处于泡沫之中吗？该怎么看待这个问题？后面我们会聊预测相关的话题，不过现在不妨先说说，该如何着手分析这么宽泛的问题。 David Owen ： 对我来说，思考这个问题的核心是看一个关键指标，比如大家在算力等方面的投入情况。另外还要考虑，这些投入之后会不会让人后悔。至于投入规模，看看英伟达每年的销售额就知道了，目前是持续增长的，情况还算不错。但要说会不会后悔，这就只能靠猜了，还得慢慢观察。 现在大部分算力都用在推理上，企业用这些算力提供服务，目前看来并没有后悔的意思。 所以单从这一点来说，我觉得还不算太泡沫。不过我也不敢太确定，还有其他因素需要考量。 Yafah Edelman ： 目前来看，企业实际赚到的利润情况其实非常好。如果他们停止开发更大规模的模型，只靠现有的模型运营，按照当前的利润率，很快就能实现盈利。从这个角度来说，现在确实不像是泡沫。但另一方面，企业一直在投入资金构建更庞大的模型。要是顺利，利润会更可观；可如果不顺利，就算现在盈利再多，跟投入的成本比起来也只是小数目。所以从财务数据来看，目前并没有迹象表明存在泡沫。很多担心泡沫的人，可能是不习惯现在这么大的投入规模，也没适应 AI 已经取得的成功和扩张速度。但如果真的存在泡沫，它可能会突然破裂，而且后果会相当严重。 David Owen ： 其实我们差不多能给你一个明确的答案： 我觉得现在不是泡沫，因为它还没破。泡沫这东西，只有破了之后你才能确定它是泡沫。 Yafah Edelman ： 总有人说 AI 还没盈利，企业还在持续投入以求盈利。但实际上，他们很快就能收回过去所有的开发成本了。现在的投入，只是为了未来的进一步发展。所以我认为，至少目前 AI 有潜在的盈利能力，要是说现在有明显的泡沫，那反而有点出人意料。 David Owen ： 大家在这些 AI 模型上花了不少钱，用户也在实际使用。他们愿意花钱，可能是因为确实从中获得了价值。你可能会说这种价值不真实，大家只是拿来玩玩而已，但不管背后的原因是什么，用户愿意付费这个现象，本身就是个相当可靠的信号。 Erik Torenberg ： 没错，大家在这些模型上投入巨大，愿意花钱肯定是因为从中得到了价值。你可能会反驳说，这种价值不是真实的，只是大家图个新鲜，但不管付费原因是什么，这都是个很有说服力的信号。 我们其实已经能给出一个还算靠谱的答案了：这不是泡沫，因为它还没破裂。只有当投入打水漂、泡沫破裂之后，我们才能确认它曾经是泡沫。 Yafah Edelman ： 总有人说 AI 还没盈利，企业还在不断投入以求盈利。但实际上，他们很快就能收回过去所有的开发成本了，现在的投入只是为了未来的进一步发展。 David Owen ： 他们会不会后悔这些投入呢？投入规模到底有多大？看看每年的销售额就知道了，目前是持续增长的，情况还不错。 Yafah Edelman ： 说实话，导航这类任务对 AI 来说其实特别简单。大家总说这需要 AI 达到极高的智能水平，但实际做起来就像创作艺术品一样， AI 的表现远比人们预想的要好。 David Owen ： 几十年前的国际象棋就是这样，对吧？当时计算机成功攻克了国际象棋，大家都觉得这是推理能力的巅峰。结果等计算机真的做到了之后，人们又觉得，计算机能下棋也没什么大不了的。 技术演进：预训练趋势、纯软件奇点与模型能力边界 Yafah Edelman ： 有个相关的问题想问问你，你之前提到了 2030 年 AI 报告，里面说没看到模型能力停滞的迹象，反而一直在提升，而且有基准测试支撑，数据量和算力也在持续增长。那你觉得模型在某些方面会不会已经出现停滞了？比如预训练技术。我们现在看到的是停滞，还是说大家还在不断探索创新？你怎么看？ David Owen ： 这一点其实很难判断，因为我们现在进入了一个缺乏公开数据的领域。预训练确实不像以前那样是唯一的焦点了，部分原因是出现了后训练这个新方向，大家在推理等方面做了很多工作。但这并不意味着预训练就无法进一步扩展了。目前看来，还有很多未被利用的数据，而且这些技术之间很可能是协同作用的：先开发出更好的模型，再通过后训练技术优化，然后从模型的实际使用中获取大量数据 —— 不管是成功的还是失败的案例，其中很多都能用于下一轮预训练。 Erik Torenberg ： 你们没有预测纯软件奇点的出现，也就是 AI 能够自动化 AI 研究，形成自我改进的反馈循环。为什么会这样呢？ David Owen ： 这份报告并不是个人预测，它主要是审视当前的趋势，看看有没有明显的理由表明这些趋势无法持续。如果趋势能持续，又会导向什么结果？我觉得，这种自我改进的情况，很难通过现有趋势去推断。目前 AI 确实能在一定程度上辅助研发工作，比如编码或者选择数据集之类的。但这种辅助作用很难量化，而且也没有达到自我改进所暗示的那种显著效果。 有理由认为，要实现完全的自动化研发其实非常困难。 大家也讨论过，如果技术进展很大程度上依赖于算力的扩大，那么自动化研发能起到的作用可能就很有限。我觉得这种说法有一定道理，但也不能完全确定，毕竟这种超出常规的情况太难推测了。 Yafah Edelman ： 纯软件奇点要出现，有一个必要条件：必须处于这样一个世界 —— 仅仅依靠增加研发人员的工作时间，就能改进 AI ，从而弥补无法扩展实验算力或预训练规模的不足。 如果真是这样，那我们应该会看到，实际使用的实验算力并不多，所有资金都流向了研究人员。但目前的情况是，虽然有大量资金投入到研究人员身上，但据我们所知，实验算力的投入规模也不相上下，甚至比最终发布模型的训练运行所投入的资金还要多很多倍。这一点让我改变了之前的看法 —— 大规模实验其实是研发的必要条件。我们没有足够的证据表明，只靠研究人员，不做更多实验，就能加速技术进展。不过这方面也有很多不同的观点，都有各自的道理。 我个人倾向于认为，要推进研发，必须进行更多实验，这也就意味着纯软件奇点很难实现。 但我并不觉得持相反观点的人是错的，他们的想法也有合理之处，毕竟我们现在都是在猜测一个数据很匮乏的领域。说到这里，我又想到一个问题。有些公司的研究人员在尝试探索超出可验证的领域，比如有观点认为，梯度下降在当前的数据集上学习效果很好，但如果反复训练，模型会开始忘记之前学过的内容，也就是所谓的 “ 灾难性遗忘 ” 。你怎么看待这个观点？孩子们学习可不是这样的。也许孩子们是通过模仿学习，也可能是通过某种探索的方式学习。我很好奇你的看法。如果孩子真的只靠模仿就能学习，那抚养孩子就简单多了。但抚养孩子之所以难，似乎就是因为他们会去探索各种各样的东西。那么在算法改进方面，除了数据和算力，我们还需要什么才能持续优化这些模型呢？ Yafah Edelman ： 我不太愿意把 AI 学习和人类学习放在一起比较。不是说两者完全不能比，而是因为我们现在对 AI 学习的了解，远比对人类学习的了解要多。人们总爱对人类的学习方式做各种假设，然后说 AI 不是这么学习的。我不知道这种说法是不是真的，也许人类孩子确实是通过强化学习来成长的。我对这一点没有强烈的立场，但我觉得，人们总会找到利用现有算力的方法，毕竟过去他们一直都是这么做的。 David Owen ： 我也不太倾向于做这种比较。就拿你说的灾难性遗忘来说，随着模型规模的扩大，我们在这方面其实已经做得越来越好了，模型能记住的东西也越来越多。这并不是说这个问题已经完全解决了，不需要再创新了，只是我也不会完全否定当前的技术路径。 Yafah Edelman ： 我绝对不认为这些担忧已经导致模型能力的增长放缓了。人们总会有各种各样的担忧，但在这些担忧真正反映到实际数据之前，我是不会轻易相信的。 AI 与编码：预测争议、效率衡量与实际影响 Erik Torenberg ： Anthropic 的 Dario 在 2025 年 3 月说过，六个月内 AI 将编写 90% 的代码，当然这个预测现在还没实现。他还说，我们可能在 2026 或 2027 年拥有相当于一个 “ 天才国家 ” 的 AI 系统。你们怎么看待 Anthropic 的这种乐观态度？你们和他们的核心分歧在哪里？ David Owen ： 我的理解是，他们更相信自动化研发能带来技术的快速突破。他们认为，我们现在开发的 AI 非常适合研究工程类的编码工作，等这些 AI 足够好用之后，会迅速加速下一代模型的开发，到时候技术进展就会变得非常快。 Yafah Edelman ： 这很难判断。就我所知，我们没有足够的证据证明纯软件快速突破的观点是错误的，只是 AI 要达到最低必要能力水平，所需要的时间可能比他们预测的要长一些。但这也只是我的猜测。 Dario 说话的时候经常会用 “ 最早 ” 之类的词来限定，所以他给出的可能是一个比较乐观的时间线，我也不确定。 David Owen ： 还有些人会像解读塔木德一样，仔细抠他的措辞，还会讨论 Anthropic 团队生成的代码行数是否符合他的说法。所以这件事其实挺棘手的，没有一个明确的判断标准。 Yafah Edelman ： 我记得 Uplift 论文说模型的效率实际上会变慢，但这很大程度上取决于他们当时使用的模型 —— 那份报告出来的时候，那些模型已经相当过时了。以我个人的经验来看， AI 确实能让工作效率大幅提升。仅仅是能掌握整个代码库的上下文，就是一个巨大的优势，这一点人类很难做到。现在我写的代码里，超过 90% 都是 AI 完成的，但我很清楚自己不是普通的程序员。不过我觉得，现在预测 AI 将编写 90% 的代码，也不算完全离谱。据我所知，在 OpenAI 或者其他地方，可能已经有人在用 AlphaCode 通过进化算法做大量试验，试图解决一些难题。目前到底有多少代码是 AI 编写的