Meta 首席人工智能科学家 Yann LeCun 计划离职退出并创办自己的初创公司
Meta 首席人工智能科学家 Yann LeCun 计划离职退出并创办自己的初创公司
Meta 首席人工智能科学家 Yann LeCun 计划离职退出并创办自己的初创公司 Meta 首席人工智能科学家 Yann LeCun 计划离职退出并创办自己的初创公司 Modified November 13, 2025 Fei Fei Li: 没错,这是当今AI缩放定律的一部分。第二个顿悟时刻是2018年。我曾是谷歌云的首位AI首席科学家。我们工作的一部分是服务于各行各业,从医疗保健到金融服务,从娱乐到制造业,从农业到能源。那是在我们所说的亚历克斯时刻(即阿尔法狗出现几年后的那个时刻)之后的几年。我意识到了。 Madhumita Murgia: Alpha Go是一种能够在玩中国棋盘游戏时击败人类的算法。是的。 Fei Fei Li: 作为谷歌的首席科学家,我意识到这是一项文明级别的技术,它将影响每一个人以及每一个商业领域。如果人类要进入AI时代,那么指导框架是什么,才能让我们不仅进行创新,还能通过这项强大的技术为每个人带来福祉。就在那时,我回到斯坦福大学担任教授,加入了S公司。S公司创立了以人为本的AI研究院,并提出了以人为本的AI框架,以便我们能将人性和人类价值观置于核心位置。 Madhumita Murgia: 所以既要发展,也要关注影响以及下一步的方向,而这正是我们其他人发挥作用的地方。Yann,你想在这里给我们做个总结吗?你最难忘的经历是什么? Yann LeCun: 是啊,可能回到你自己的时代,我意识到,当我还是本科生的时候,我对更广义的AI智能问题着迷,并发现五六十年代的人们致力于训练机器而不是对其进行编程。我真的被这个想法迷住了,可能是因为我觉得自己要么太笨,要么太懒,根本没办法从头开始造一台制氮机,对吧?所以最好让它自行训练或自我组织。你知道,这就是生命中的智慧自我构建的方式。它是自组织的。 所以我觉得这个概念真的很迷人,我从工程专业毕业后,一直找不到志同道合的人,顺便说一下,我当时在做廉价设计,还想去读研究生。我找不到正在研究这个的人,但联系到了一些对此有点兴趣的人,还发现了例如杰斯的论文。1983年,当我开始读研究生时,他是世界上我最想见到的人。最终,我们在两年后见面了。 Madhumita Murgia: 今天,你的朋友们,你会这么说吗? Yann LeCun: 是的?哦,我们在1985年一起吃了午饭,而且我们能接上彼此的话。基本上,在这里,这个。在一场他作为主旨演讲人的会议上,我有一篇用法语撰写的论文,并且实际上还成功地解读了其中的数学内容。有点类似于反向传播来训练多层单元。从60年代起就已知道,机器学习的局限性在于我们无法训练多层模型。所以那真的是我的执念。然后这也成了他的执念。然后,我写了一篇论文,提出了某种实现方法,而他居然读懂了其中的数学内容。我们就是这样认识的。 Madhumita Murgia: 而这就是让你踏上这一阶段的原因,对吧? Yann LeCun: 所以,在那之后,你知道的,一旦你能够训练像这样的复杂系统,你就会思考如何解决这个问题,即如何构建它们,使它们能够做一些有用的事情,比如识别图像或类似的事情?当时,在80年代末我作为博士后和杰夫一起工作时,我们有过这样一场辩论。我原以为唯一的机器学习范式是完善的。在有监督运行的模式下,你给机器展示一张图像,然后告诉它答案是什么,对吧?他说,不,我们要取得进展的唯一途径就是实现无监督运行。有段时间我有点轻视这件事。你知道的,在2000年中期,他、雅沙和我开始走到一起,我们开始深入激发社区的兴趣。实际上,我们在某种程度上把赌注押在了无监督运行之类的事情上。 Madhumita Murgia: 只是一个强化循环。 Yann LeCun: 对吧?这不是强化。不,这基本上是在不训练机器执行任何特定任务的情况下发现结构化数据,顺便说一下,ADMMs就是这样训练的。因此,大语言模型(LLM)是经过训练来预测下一个单词的,但这其实并非真正意义上的任务。这只是系统学习一种良好表征或捕捉……的方式。 Madhumita Murgia: 抱歉我要讲得专业一点,有没有一种系统可以判定这是正确的,然后就一直这么做下去呢? Yann LeCun: 嗯,如果能正确预测下一个单词,这就是正确的。 Madhumita Murgia: 就这样。 Geoffrey: 强化学习中那些你认为不错的奖励。 Madhumita Murgia: 好的。 Yann LeCun: 所以实际上,我要怪你。它不使用这个大数据循环图像网,且该图像网已被标记。因此,我们可以使用有监督运行来训练系统,而实际上这是一个比我们预期要好得多的网络。于是,我们暂时放弃了整个关于自监督(而非有监督)运行的项目。因为主管,你工作得非常出色。我们想出了一些窍门。 Madhumita Murgia: Yoshua被那件事困住了。 Yann LeCun: 不,你没有。我没有。但在某种程度上,我们让整个行业和研究委员会(如果你愿意这么说的话)专注于深度运行、监督运行等方面。又过了几年,大概是2016、2017年左右,才告诉大家,这不会带我们去到我们想去的地方。我们现在需要进行自监督运行。而这实际上就是这方面的最佳例证。但我们目前正在做的是将其应用于其他类型的数据,如视频传感器数据,而llms在这方面确实不太擅长。而这是未来几年面临的新挑战。 Madhumita Murgia: 这样一来,我们实际上就来到了当下。我想,你们都知道,你们肯定都看到了这股兴趣浪潮,那些以前对AI一无所知、毫无兴趣的人,现在都蜂拥而至。而这已经不仅仅是一项技术创新了,对吧?这是一个巨大的商业繁荣,已成为一个地缘政治战略问题。而且,你知道的,每个人都在试图弄清楚这到底是什么,所以。哦,他们都围绕着它。 Madhumita Murgia: Jensen,我先来找你,我希望你们所有人现在都能反思一下此刻。尤其是英伟达,几乎每天都登上新闻头条,而且已经成为全球最具价值的公司。所以那里有人们想要的东西。你能听到那个吗?你知道的,跟我们讲讲,你是否担心我们正走到这样一个阶段:人们不太理解,我们都操之过急了,而且会有清算的那一天,会有泡沫破裂,然后一切会自行修正。如果不是这样,那么对于来自AI的需求,与互联网泡沫时期的错误不同,或者人们不理解的最大误解是什么呢,你知道,如果情况并非如此的话。 Jensen Huang: 在互联网泡沫时期,所铺设的绝大多数光纤都是闲置的,这意味着该行业铺设的光纤数量远远超过了实际需求。如今,几乎每一块能找到的GPU都被点亮并投入使用。所以我认为退一步去理解AI是什么很重要的原因在于,你知道,对很多人来说,AI就是ChatGPT和图像生成。而且这一切都是真的。这是它的应用之一。在过去几年里,AI取得了巨大的进步。不仅能够记忆和归纳,还能通过研究进行推理、有效思考并将自身建立在坚实基础之上的能力。它现在能够生成答案并做更有价值的事情。它的效果要好得多。还有那些能够打造对其他企业有帮助的业务的公司,例如,我们使用的一家名为Cursor的软件编程公司和AI软件公司。他们的盈利能力很强,我们大量使用他们的软件。对于服务于医疗保健行业的人来说,它非常有用,无论是用于删节还是公开证据。非常好,确实取得了很好的效果。而且,AI能力已经有了极大的提升。结果,我们看到这两个指数级变化同时发生。一方面,生成答案所需的计算量大幅增加。另一方面,这些AI模型的使用量也在呈指数级增长。这两个指数函数对计算资源的需求很大。 现在当你退后一步,你会从根本上问自己,如今的AI与过去的软件行业有何不同?过去,软件是预编译的,其所需的计算量不是很大。但为了让AI发挥效用,它必须具备情境感知能力。目前它只能产生智能。你无法提前制作并获取它。你知道的,这就叫做内容AI。智能必须实时产生和生成。因此,我们现在所处的行业中,生产真正有价值且需求旺盛的产品所需的计算量相当大。我们在一个需要工厂的行业中创造。这就是为什么我提醒我们自己,AI需要工厂来生产这些标记,来产生智能。这是一次,你知道的,这是前所未有的情况,计算机实际上成为了工厂的一部分。因此,我们需要数千亿美元来建设这些工厂,以服务价值数万亿美元的产业。 它位于智能之上。你知道,当你回过头去看过去的软件时,它们都是软件工具,人们第一次使用它们。AI是增强人类能力的智能。因此,它涉及劳动力,也涉及工作。它确实有效。 Madhumita Murgia: 所以你的意思是,不,这不是泡沫? Jensen Huang: 我认为,我们正处于智能建设的初期阶段。而事实是,如今大多数人仍然不使用AI。在不久的将来的某一天,我们所做的几乎每一件事,你知道的,一天中的每一个时刻,你都会以某种方式与AI互动。所以,从我们今天所处的使用率相当低的阶段,到未来某一天使用率基本持续的阶段,这个发展过程,你懂的。 Madhumita Murgia: 而且即使大语言模型(LLM)的发展空间耗尽,你认为GPU和你正在构建的基础设施在不同的范式下仍能发挥作用。然后我想向他人敞开心扉倾诉。 Jensen Huang: 它们是AI技术的一部分。你知道,AI是模型系统,而不仅仅是大语言模型(LLMs)。而LMS是其中的重要组成部分。但存在模型系统以及使AI更具生产力所需的技术。无论它如今处于何种状态,不管我们怎么称呼它,我们仍有许多技术有待开发。 Madhumita Murgia: 谁想参与这件事?我不会,尤其是如果你不同意的话。 Yoshua: 我认为我们不应再称它们为大语言模型(LLMs)了。它们不再是语言模型了。是的,它们最初就是语言模型。至少那是预训练的……但最近,在将它们打造成智能体方面取得了很多进展。换句话说,按顺序执行一系列步骤,以便与环境、与人进行交互,从而实现某个目标。目前是通过对话,但越来越多地借助计算基础设施。而且技术正在发生变化。 这和三年前的情况完全不同了。我认为我们无法预测两年、五年、十年后技术会发展到什么程度,但我们可以看到趋势。所以我正在做的一件事,就是试图召集一群国际专家,来追踪AI的发展动态、发展方向、存在的风险,以及如何降低这些风险。现在,在众多基准测试中,趋势都非常明显,你知道的,因为我们过去在验证这项技术方面取得了巨大成功,但这并不意味着未来也会如此。如果期望没有达成,就会产生财务后果。但从长远来看,我完全同意。但是。 Madhumita Murgia: 目前,你们其他人呢?就你对相关技术、应用程序的了解而言,你认为这些估值合理吗? Bill Dally: 所以我认为有三个趋势在一定程度上解释了目前的情况。首先是模型变得越来越高效。例如,仅关注注意力机制,从普通注意力到分组查询注意力(GQA)再到多头注意力(MLA),你可以用少得多的计算量获得相同或更好的结果。这样一来,它就以某种方式推动了需求,使得以前可能过于昂贵的东西现在变得足够便宜,你可以用AI做更多的事情。与此同时。随着时间的推移,模型正在不断改进,你知道的,也许借助Transformer它们会继续改进,也许还会出现新的架构。但我们会向前,不会倒退。我们也将继续拥有更好的模型。 Madhumita Murgia: 已启用,但仍需要GPU。没错。 Bill Dally: 即使。当然。 Madhumita Murgia: Transformer基础。 Bill Dally: 事实上,与那些更专业化的事物相比,它们更具价值,因为它们更灵活,能够更好地随模型发展。但最后一点是,我认为我们才刚刚开始触及应用程序的表面。所以,几乎人类生活的方方面面都可以通过让AI在某人的职业中提供协助、在日常生活中给予帮助而得到改善。而且,你知道,我觉得我们可能才刚刚触及到这方面最终需求的1%。随着其不断发展,你知道的,其应用数量将会增加。所以我认为这里不存在任何泡沫。我觉得就像詹森说的,我们正在书写一个多重指数曲线,而我们现在才刚刚起步,它会一直持续下去。 Madhumita Murgia: 从某些方面来说,英伟达对此已经习以为常,因为即使这种范式发生变化,出现其他类型的AI和架构,你仍然需要底层的基础组件。这样对你来说就说得通了。你想加入吗?Fei Fei. Fei Fei Li: 是的,我当然认为,从市场角度来看,它会有自身的动态变化,而且有时也会自我调整。但如果你看看长期趋势,别忘了AI其实是一个非常年轻的领域,对吧?我们走进这个房间,墙上挂着物理学的等式。即使我们只看现代物理学,物理学也是一门有400多年历史的学科,而AI的历史还不到70年,如果追溯到艾伦·图灵,大约是75年。所以未来还有很多新的前沿领域,你知道的,詹森和大家通常谈论的大语言模型和智能体,这些更多是基于语言的。但即使你在对人类智能进行自我反思时,也会发现语言之外还有更多智能能力。我一直在研究空间智能,它实际上是感知与行动之间的结合点或关键所在,在这个领域,人类和动物拥有超乎想象的能力,能够感知、推理、与世界互动并创造出远远超越语言范畴的世界。即使是当今最强大的基于语言或大语言模型(LLM)的模型,在基础空间智能测试中也会失败。所以从这个角度来看,作为一门学科、一门科学,还有更多的前沿领域有待征服和开拓。这就带来了更多应用,你知道的,打开了更多可能性。 Madhumita Murgia: Yann ,你在一家公司工作,因此你拥有作为研究人员和在商业领域工作的双重视角。你同意吗?你是否相信这一切都是合理的,并且能明白这一切的根源所在?还是你觉得我们正在达到一个NDM?我们需要寻找一条新的道路吗? Yann LeCun: 所以我认为有几种观点表明我们并不处于泡沫之中,而至少有一种观点认为我们正不可避免地处于泡沫之中。不过确实有,只是这是另一回事了。所以从某种意义上说,我们并非不可避免,因为基于大语言模型(LLMs)有很多应用有待开发。大语言模型(LLM)是当前占主导地位的范式,其中有很多值得挖掘的地方。你知道的,这就是比尔所说的,要用当前的技术在日常生活中帮助人们,而技术是需要推动的。这也证明了在软件和基础设施方面所做的所有投资都是合理的。一旦我们让智能可穿戴设备进入每个人的手中,帮助他们的日常生活,正如詹森所说,为所有这些人提供服务所需的计算量将是巨大的。所以从这个意义上说,这笔投资并没有白费。 但从某种意义上说,存在一种泡沫,即认为当前的大语言模型(LSM)范式将被推向拥有人类水平智能的程度,而我个人并不相信这一点,你也不信。在我们制造出真正拥有我们所观察到的那种智能的机器之前,我们需要取得一些突破,这种智能不仅存在于人类中,也存在于动物身上。就像,我们还没有像猫一样聪明的机器人,对吧?所以我们仍然缺少一些重要的东西,这就是为什么AI的进步不仅仅是增加基础设施、数据、投资和发展当前Python的问题。实际上,这是一个关于我们如何朝着下一代迈进取得进步的科学问题。 Madhumita Murgia: 关于AI,这就是你们所有人来这里的原因,对吧?因为实际上是你引发了整件事。而且我感觉你,你知道的,我们正越来越朝着工程应用方向发展,但你所说的是,我们需要回到最初让你投身于此的那个关于人类水平智能的问题上,我们时间不多了。我们只想做一件事。速射。我很好奇,你们每个人能不能说说,你们认为要多久我们才能达到那个你们相信的、拥有与人类甚至像章鱼这样聪明动物相当的机器智能的阶段。我们距离多远了?仅仅是岁月。 Yann LeCun: 这不会是一场活动。好啦,好啦。因为各项能力将在各个领域逐步拓展。 Madhumita Murgia: 在什么时间段内? Yann LeCun: 你知道的,也许在未来五到十年里,你会取得一些重大进展,从而提出一种新的范式,然后,你知道的,公司的发展可能会比我们想象的要花更长时间。 Fei Fei Li: 好吧,机器的某些部分将超越人类的智能。而且机器智能的一部分永远不会与人类智能相似或相同。它们,它们,它们是为不同目的而设计的。他们。 Madhumita Murgia: 我们什么时候开始进行替代? Fei Fei Li: 其中一部分已经在这里了。我们当中有多少人能识别世界上的22000种物体? Madhumita Murgia: 不要认为一个成年人能够识别22000个物体。 Fei Fei Li: 那种颗粒度和保真度?否有多少成年人能够翻译100种语言?所以,我认为我们应该保持细致入微的态度,并以科学事实为依据,就像飞机能飞,但飞行方式与鸟类不同一样。基于机器的智能将发挥许多强大的作用,但在人类社会中,人类智能始终有着至关重要的深刻地位。 Madhumita Murgia: 詹森,你有…… Jensen Huang: 我们有足够的通用智能,在未来几年内将这项技术转化为大量对社会有用的应用。而且这又回到了,没错没错没错,我们今天就会去做。所以我认为,其一,我们已经做到了。第二,对方的回答是没关系,因为在这一点上,这有点像一个学术问题,我们要将技术应用到这个问题上。而且这项技术会不断进步,从现在起,我们将应用这项技术来解决许多非常重要的问题。所以,好吧,我认为答案是这无关紧要。 Madhumita Murgia: 现在也是如此。 Jensen Huang: 你决定,对吧? Geoffrey: 如果你稍微细化一下问题,问如果与这台机器进行辩论,它多久会一直获胜。我认为这肯定会在20年内实现。我们还没达到那个阶段,但我相当肯定,在20年内我们会实现的。所以如果你将其定义为AGI,它总会在辩论中胜过你。我们可能会在不到20年的时间里实现这一目标。好的。 Madhumita Murgia: 嗯,你有吗。 说话人 3 32:53 它?是啊,我确定詹森问的是个错误的问题,对吧?因为我们的目标不是构建AI来取代人类或超越人类。 Madhumita Murgia: 人类。我,我,但这是一个科学问题。并不是说我们会取代人类。问题是,作为一个社会,我们能否创造出某种东西?但是。 Bill Dally: 我们的目标是构建增强人类能力的AI。所以我们想做的是对人类擅长的事情进行补充。人类无法识别22,000个类别,或者说我们大多数人无法解决这些方法论和问题。所以我们构建AI来做这件事。这样人类就能做人类独有的事情,即发挥创造力、富有同理心,并懂得如何与世界上的其他人互动。我认为,AI是否能做到这一点对我来说并不明确,但AI可以极大地辅助人类。 Yoshua: 所以在这一点上我不敢苟同。我看不出有任何理由表明,在某个时候,我们无法制造出几乎能做我们所能做的一切事情的机器。当然,目前在空间和机器人领域,它是滞后的,但从概念上讲,没有理由认为我们做不到。所以在时间线上,我认为存在很多不确定性,我们应该据此进行规划。但有一些数据我觉得很有意思,从中我们可以看到AIS在不同时间跨度上进行规划的能力,在过去六年里呈指数级快速增长。如果我们延续这一趋势,大约五年内,员工在工作中的水平将大致与AI相当,AI将能够胜任这些工作。 现在,这只是工程任务的一个类别,还有许多其他重要的事情。例如,有一件事可能会改变游戏规则,那就是许多公司正致力于聚焦AI开展AI研究的能力。换句话说,就是要从事工程学、计算机科学,设计下一代AI,包括可能改进机器人技术和空间理解能力。所以我不是说这一定会发生,但AI在进行越来越好的编程和理解算法方面的能力提升速度非常快。而这可能会解锁许多我们未知的其他事物,我们真的应该……保持不可知论,不做夸大的断言,因为未来存在很多可能性。 Madhumita Murgia: 所以我们的共识是,在某些方面,我们认为这个特性如今已经存在,但永远不会有一个决定性的时刻。而你今天在这里的工作就是帮助我们沿着这条道路前行,直到我们达到与这些系统协同工作的阶段。我个人非常期待我们在这件事上会取得怎样的进展。如果我们一年后再做这件事,那将是一个不同的世界。但非常感谢您加入我们,分享您的故事,并为我们讲述这个具有重大意义的革命性时刻。 扎克伯格面临着来自华尔街日益增长的压力,他们要求他证明,自己为成为“人工智能领军者”而投入的数十亿美元将有所回报,并能增加收入。 Meta 的股价在 10 月下旬暴跌 12.6%,市值蒸发了近 2400 亿美元 ,此前首席执行官暗示未来人工智能支出将增加,明年可能超过 1000 亿美元。 LeCun 的离职标志着 Meta 这家价值 1.6 万亿美元的公司动荡的一年里,一系列离职事件以及领导层和组织架构调整中的最新一起。 今年 5 月,人工智能研究副总裁乔伊尔・皮诺(Joelle Pineau)离职,最近加入了加拿大一家人工智能初创公司 Cohere。上个月,Meta 从其人工智能研究部门裁员约 600 人,旨在削减成本、消除官僚主义并更快地推出产品。 扎克伯格还以数亿美元的高薪引进了新的人工智能领导者,这激怒了一些守旧派。7 月,OpenAI 旗下 ChatGPT 的联合创始人赵胜佳被聘为 Meta 超级智能实验室的首席科学家。 Fei Fei Li: 没错,这是当今AI缩放定律的一部分。第二个顿悟时刻是2018年。我曾是谷歌云的首位AI首席科学家。我们工作的一部分是服务于各行各业,从医疗保健到金融服务,从娱乐到制造业,从农业到能源。那是在我们所说的亚历克斯时刻(即阿尔法狗出现几年后的那个时刻)之后的几年。我意识到了。 Madhumita Murgia: Alpha Go是一种能够在玩中国棋盘游戏时击败人类的算法。是的。 Fei Fei Li: 作为谷歌的首席科学家,我意识到这是一项文明级别的技术,它将影响每一个人以及每一个商业领域。如果人类要进入AI时代,那么指导框架是什么,才能让我们不仅进行创新,还能通过这项强大的技术为每个人带来福祉。就在那时,我回到斯坦福大学担任教授,加入了S公司。S公司创立了以人为本的AI研究院,并提出了以人为本的AI框架,以便我们能将人性和人类价值观置于核心位置。 Madhumita Murgia: 所以既要发展,也要关注影响以及下一步的方向,而这正是我们其他人发挥作用的地方。Yann,你想在这里给我们做个总结吗?你最难忘的经历是什么? Yann LeCun: 是啊,可能回到你自己的时代,我意识到,当我还是本科生的时候,我对更广义的AI智能问题着迷,并发现五六十年代的人们致力于训练机器而不是对其进行编程。我真的被这个想法迷住了,可能是因为我觉得自己要么太笨,要么太懒,根本没办法从头开始造一台制氮机,对吧?所以最好让它自行训练或自我组织。你知道,这就是生命中的智慧自我构建的方式。它是自组织的。 所以我觉得这个概念真的很迷人,我从工程专业毕业后,一直找不到志同道合的人,顺便说一下,我当时在做廉价设计,还想去读研究生。我找不到正在研究这个的人,但联系到了一些对此有点兴趣的人,还发现了例如杰斯的论文。1983年,当我开始读研究生时,他是世界上我最想见到的人。最终,我们在两年后见面了。 Madhumita Murgia: 今天,你的朋友们,你会这么说吗? Yann LeCun: 是的?哦,我们在1985年一起吃了午饭,而且我们能接上彼此的话。基本上,在这里,这个。在一场他作为主旨演讲人的会议上,我有一篇用法语撰写的论文,并且实际上还成功地解读了其中的数学内容。有点类似于反向传播来训练多层单元。从60年代起就已知道,机器学习的局限性在于我们无法训练多层模型。所以那真的是我的执念。然后这也成了他的执念。然后,我写了一篇论文,提出了某种实现方法,而他居然读懂了其中的数学内容。我们就是这样认识的。 Madhumita Murgia: 而这就是让你踏上这一阶段的原因,对吧? Yann LeCun: 所以,在那之后,你知道的,一旦你能够训练像这样的复杂系统,你就会思考如何解决这个问题,即如何构建它们,使它们能够做一些有用的事情,比如识别图像或类似的事情?当时,在80年代末我作为博士后和杰夫一起工作时,我们有过这样一场辩论。我原以为唯一的机器学习范式是完善的。在有监督运行的模式下,你给机器展示一张图像,然后告诉它答案是什么,对吧?他说,不,我们要取得进展的唯一途径就是实现无监督运行。有段时间我有点轻视这件事。你知道的,在2000年中期,他、雅沙和我开始走到一起,我们开始深入激发社区的兴趣。实际上,我们在某种程度上把赌注押在了无监督运行之类的事情上。 Madhumita Murgia: 只是一个强化循环。 Yann LeCun: 对吧?这不是强化。不,这基本上是在不训练机器执行任何特定任务的情况下发现结构化数据,顺便说一下,ADMMs就是这样训练的。因此,大语言模型(LLM)是经过训练来预测下一个单词的,但这其实并非真正意义上的任务。这只是系统学习一种良好表征或捕捉……的方式。 Madhumita Murgia: 抱歉我要讲得专业一点,有没有一种系统可以判定这是正确的,然后就一直这么做下去呢? Yann LeCun: 嗯,如果能正确预测下一个单词,这就是正确的。 Madhumita Murgia: 就这样。 Geoffrey: 强化学习中那些你认为不错的奖励。 Madhumita Murgia: 好的。 Yann LeCun: 所以实际上,我要怪你。它不使用这个大数据循环图像网,且该图像网已被标记。因此,我们可以使用有监督运行来训练系统,而实际上这是一个比我们预期要好得多的网络。于是,我们暂时放弃了整个关于自监督(而非有监督)运行的项目。因为主管,你工作得非常出色。我们想出了一些窍门。 Madhumita Murgia: Yoshua被那件事困住了。 Yann LeCun: 不,你没有。我没有。但在某种程度上,我们让整个行业和研究委员会(如果你愿意这么说的话)专注于深度运行、监督运行等方面。又过了几年,大概是2016、2017年左右,才告诉大家,这不会带我们去到我们想去的地方。我们现在需要进行自监督运行。而这实际上就是这方面的最佳例证。但我们目前正在做的是将其应用于其他类型的数据,如视频传感器数据,而llms在这方面确实不太擅长。而这是未来几年面临的新挑战。 Madhumita Murgia: 这样一来,我们实际上就来到了当下。我想,你们都知道,你们肯定都看到了这股兴趣浪潮,那些以前对AI一无所知、毫无兴趣的人,现在都蜂拥而至。而这已经不仅仅是一项技术创新了,对吧?这是一个巨大的商业繁荣,已成为一个地缘政治战略问题。而且,你知道的,每个人都在试图弄清楚这到底是什么,所以。哦,他们都围绕着它。 Madhumita Murgia: Jensen,我先来找你,我希望你们所有人现在都能反思一下此刻。尤其是英伟达,几乎每天都登上新闻头条,而且已经成为全球最具价值的公司。所以那里有人们想要的东西。你能听到那个吗?你知道的,跟我们讲讲,你是否担心我们正走到这样一个阶段:人们不太理解,我们都操之过急了,而且会有清算的那一天,会有泡沫破裂,然后一切会自行修正。如果不是这样,那么对于来自AI的需求,与互联网泡沫时期的错误不同,或者人们不理解的最大误解是什么呢,你知道,如果情况并非如此的话。 Jensen Huang: 在互联网泡沫时期,所铺设的绝大多数光纤都是闲置的,这意味着该行业铺设的光纤数量远远超过了实际需求。如今,几乎每一块能找到的GPU都被点亮并投入使用。所以我认为退一步去理解AI是什么很重要的原因在于,你知道,对很多人来说,AI就是ChatGPT和图像生成。而且这一切都是真的。这是它的应用之一。在过去几年里,AI取得了巨大的进步。不仅能够记忆和归纳,还能通过研究进行推理、有效思考并将自身建立在坚实基础之上的能力。它现在能够生成答案并做更有价值的事情。它的效果要好得多。还有那些能够打造对其他企业有帮助的业务的公司,例如,我们使用的一家名为Cursor的软件编程公司和AI软件公司。他们的盈利能力很强,我们大量使用他们的软件。对于服务于医疗保健行业的人来说,它非常有用,无论是用于删节还是公开证据。非常好,确实取得了很好的效果。而且,AI能力已经有了极大的提升。结果,我们看到这两个指数级变化同时发生。一方面,生成答案所需的计算量大幅增加。另一方面,这些AI模型的使用量也在呈指数级增长。这两个指数函数对计算资源的需求很大。 现在当你退后一步,你会从根本上问自己,如今的AI与过去的软件行业有何不同?过去,软件是预编译的,其所需的计算量不是很大。但为了让AI发挥效用,它必须具备情境感知能力。目前它只能产生智能。你无法提前制作并获取它。你知道的,这就叫做内容AI。智能必须实时产生和生成。因此,我们现在所处的行业中,生产真正有价值且需求旺盛的产品所需的计算量相当大。我们在一个需要工厂的行业中创造。这就是为什么我提醒我们自己,AI需要工厂来生产这些标记,来产生智能。这是一次,你知道的,这是前所未有的情况,计算机实际上成为了工厂的一部分。因此,我们需要数千亿美元来建设这些工厂,以服务价值数万亿美元的产业。 它位于智能之上。你知道,当你回过头去看过去的软件时,它们都是软件工具,人们第一次使用它们。AI是增强人类能力的智能。因此,它涉及劳动力,也涉及工作。它确实有效。 Madhumita Murgia: 所以你的意思是,不,这不是泡沫? Jensen Huang: 我认为,我们正处于智能建设的初期阶段。而事实是,如今大多数人仍然不使用AI。在不久的将来的某一天,我们所做的几乎每一件事,你知道的,一天中的每一个时刻,你都会以某种方式与AI互动。所以,从我们今天所处的使用率相当低的阶段,到未来某一天使用率基本持续的阶段,这个发展过程,你懂的。 Madhumita Murgia: 而且即使大语言模型(LLM)的发展空间耗尽,你认为GPU和你正在构建的基础设施在不同的范式下仍能发挥作用。然后我想向他人敞开心扉倾诉。 Jensen Huang: 它们是AI技术的一部分。你知道,AI是模型系统,而不仅仅是大语言模型(LLMs)。而LMS是其中的重要组成部分。但存在模型系统以及使AI更具生产力所需的技术。无论它如今处于何种状态,不管我们怎么称呼它,我们仍有许多技术有待开发。 Madhumita Murgia: 谁想参与这件事?我不会,尤其是如果你不同意的话。 Yoshua: 我认为我们不应再称它们为大语言模型(LLMs)了。它们不再是语言模型了。是的,它们最初就是语言模型。至少那是预训练的……但最近,在将它们打造成智能体方面取得了很多进展。换句话说,按顺序执行一系列步骤,以便与环境、与人进行交互,从而实现某个目标。目前是通过对话,但越来越多地借助计算基础设施。而且技术正在发生变化。 这和三年前的情况完全不同了。我认为我们无法预测两年、五年、十年后技术会发展到什么程度,但我们可以看到趋势。所以我正在做的一件事,就是试图召集一群国际专家,来追踪AI的发展动态、发展方向、存在的风险,以及如何降低这些风险。现在,在众多基准测试中,趋势都非常明显,你知道的,因为我们过去在验证这项技术方面取得了巨大成功,但这并不意味着未来也会如此。如果期望没有达成,就会产生财务后果。但从长远来看,我完全同意。但是。 Madhumita Murgia: 目前,你们其他人呢?就你对相关技术、应用程序的了解而言,你认为这些估值合理吗? Bill Dally: 所以我认为有三个趋势在一定程度上解释了目前的情况。首先是模型变得越来越高效。例如,仅关注注意力机制,从普通注意力到分组查询注意力(GQA)再到多头注意力(MLA),你可以用少得多的计算量获得相同或更好的结果。这样一来,它就以某种方式推动了需求,使得以前可能过于昂贵的东西现在变得足够便宜,你可以用AI做更多的事情。与此同时。随着时间的推移,模型正在不断改进,你知道的,也许借助Transformer它们会继续改进,也许还会出现新的架构。但我们会向前,不会倒退。我们也将继续拥有更好的模型。 Madhumita Murgia: 已启用,但仍需要GPU。没错。 Bill Dally: 即使。当然。 Madhumita Murgia: Transformer基础。 Bill Dally: 事实上,与那些更专业化的事物相比,它们更具价值,因为它们更灵活,能够更好地随模型发展。但最后一点是,我认为我们才刚刚开始触及应用程序的表面。所以,几乎人类生活的方方面面都可以通过让AI在某人的职业中提供协助、在日常生活中给予帮助而得到改善。而且,你知道,我觉得我们可能才刚刚触及到这方面最终需求的1%。随着其不断发展,你知道的,其应用数量将会增加。所以我认为这里不存在任何泡沫。我觉得就像詹森说的,我们正在书写一个多重指数曲线,而我们现在才刚刚起步,它会一直持续下去。 Madhumita Murgia: 从某些方面来说,英伟达对此已经习以为常,因为即使这种范式发生变化,出现其他类型的AI和架构,你仍然需要底层的基础组件。这样对你来说就说得通了。你想加入吗?Fei Fei. Fei Fei Li: 是的,我当然认为,从市场角度来看,它会有自身的动态变化,而且有时也会自我调整。但如果你看看长期趋势,别忘了AI其实是一个非常年轻的领域,对吧?我们走进这个房间,墙上挂着物理学的等式。即使我们只看现代物理学,物理学也是一门有400多年历史的学科,而AI的历史还不到70年,如果追溯到艾伦·图灵,大约是75年。所以未来还有很多新的前沿领域,你知道的,詹森和大家通常谈论的大语言模型和智能体,这些更多是基于语言的。但即使你在对人类智能进行自我反思时,也会发现语言之外还有更多智能能力。我一直在研究空间智能,它实际上是感知与行动之间的结合点或关键所在,在这个领域,人类和动物拥有超乎想象的能力,能够感知、推理、与世界互动并创造出远远超越语言范畴的世界。即使是当今最强大的基于语言或大语言模型(LLM)的模型,在基础空间智能测试中也会失败。所以从这个角度来看,作为一门学科、一门科学,还有更多的前沿领域有待征服和开拓。这就带来了更多应用,你知道的,打开了更多可能性。 Madhumita Murgia: Yann ,你在一家公司工作,因此你拥有作为研究人员和在商业领域工作的双重视角。你同意吗?你是否相信这一切都是合理的,并且能明白这一切的根源所在?还是你觉得我们正在达到一个NDM?我们需要寻找一条新的道路吗? Yann LeCun: 所以我认为有几种观点表明我们并不处于泡沫之中,而至少有一种观点认为我们正不可避免地处于泡沫之中。不过确实有,只是这是另一回事了。所以从某种意义上说,我们并非不可避免,因为基于大语言模型(LLMs)有很多应用有待开发。大语言模型(LLM)是当前占主导地位的范式,其中有很多值得挖掘的地方。你知道的,这就是比尔所说的,要用当前的技术在日常生活中帮助人们,而技术是需要推动的。这也证明了在软件和基础设施方面所做的所有投资都是合理的。一旦我们让智能可穿戴设备进入每个人的手中,帮助他们的日常生活,正如詹森所说,为所有这些人提供服务所需的计算量将是巨大的。所以从这个意义上说,这笔投资并没有白费。 但从某种意义上说,存在一种泡沫,即认为当前的大语言模型(LSM)范式将被推向拥有人类水平智能的程度,而我个人并不相信这一点,你也不信。在我们制造出真正拥有我们所观察到的那种智能的机器之前,我们需要取得一些突破,这种智能不仅存在于人类中,也存在于动物身上。就像,我们还没有像猫一样聪明的机器人,对吧?所以我们仍然缺少一些重要的东西,这就是为什么AI的进步不仅仅是增加基础设施、数据、投资和发展当前Python的问题。实际上,这是一个关于我们如何朝着下一代迈进取得进步的科学问题。 Madhumita Murgia: 关于AI,这就是你们所有人来这里的原因,对吧?因为实际上是你引发了整件事。而且我感觉你,你知道的,我们正越来越朝着工程应用方向发展,但你所说的是,我们需要回到最初让你投身于此的那个关于人类水平智能的问题上,我们时间不多了。我们只想做一件事。速射。我很好奇,你们每个人能不能说说,你们认为要多久我们才能达到那个你们相信的、拥有与人类甚至像章鱼这样聪明动物相当的机器智能的阶段。我们距离多远了?仅仅是岁月。 Yann LeCun: 这不会是一场活动。好啦,好啦。因为各项能力将在各个