独家实录｜唐杰、杨植麟、林俊旸、姚顺雨...All Star 对话上，大家聊了啥？

独家实录｜唐杰、杨植麟、林俊旸、姚顺雨...All Star 对话上，大家聊了啥？ 独家实录｜唐杰、杨植麟、林俊旸、姚顺雨...All Star 对话上，大家聊了啥？ Modified January 10 李广密： 我再Follow一个问题，比如说中国的模型跟美国的模型差距，有的地方在追上来，有的地方他们的算力在拉大，你内心中Gap变大的恐惧感强吗？ 林俊旸： 今天你干这一行就不能恐惧，必须得有非常强的心态，对于我们的心态来说，能干这一行就非常不错了，能做大模型这件事情已经非常幸运了。 我觉得还是看你的初心是什么，刚才顺雨提到一个点，你的模型不一定那么强在C端里边是OK的。我可能转换成另外一个角度去思考这个问题， 我们的模型为人类社会带来了什么样的价值 ，只要我相信我这个东西能够为人类社会带来充分的价值，能够帮助人类，就算不是最强的，我也愿意接受。 李广密： 多谢俊旸。有请杨老师，因为您经历过很多AI的周期，也看过很多中国的AI公司变成世界最强，您对这个问题的判断。 杨强： 我们可以回顾一下互联网的发展，一开始也是从美国开始，但中国很快就赶上了，而且应用像微信，是世界第一的。我想AI是一个技术，它并不是一个终端的产品，但我们中国有很多聪明才智会把这个产品发挥到极致，不管是To B还是To C，但 我可能更看好To C，因为百花齐放，中国人集思广益 。但To B可能会有一些限制，像付费意愿、企业文化等也在改变。 我最近也在观察商业方向跟商学院的一些同学探讨，比方说美国有一个公司叫 Palantir ，它的一个理念是不管AI现在发展到什么阶段，我总是能在AI里面发现一些好的东西应用在企业上，中间肯定有gap，我们要给它弥合，它有一个办法叫本体，用的是本体的方法。我观察了一下，大概的思想是我们之前做的迁移学习，就是说把一个通用的Solution能够应用到一个具体的实践当中，用一个本体来做知识的迁移，这个方法非常巧妙。当然它是通过一种工程的方法，叫前端工程师FDE来解决的。不管怎么样，我觉得像这种就非常值得我们学习，我觉得中国的企业像AI Native的公司应该发展出这样一些To B的Solution来，我相信会的。所以我觉得 To C肯定是百花齐放的，To B也会很快的跟上来 。 李广密： 多谢杨老师。有请唐老师。 唐杰： 首先我觉得确实要承认在中美，无论是做研究，尤其是企业界的AI Lab， 我觉得和美国是有差距的 ，这是第一个。 但我觉得在未来中国，现在慢慢变得越来越好，尤其是90后、00后这一代，远远好过之前。有一次我在一个会上说我们这一代最不幸运，上一代也在继续工作，我们也在工作，所以我们还没有出头之日，很不幸的是下一代已经出来了，世界已经交给下一代了，已经把我们这一代无缝跳过了。这是开玩笑的。 中国也许的机会： 第一，一群聪明人真的敢做特别冒险的事 ，我觉得现在是有的，00后这一代，包括90后这一代是有的，包括俊旸、Kimi、顺雨都非常愿意冒风险来做这样的事情。 第二，咱们的环境可能更好一些 ，无论是国家的环境，比如说大企业和小企业之间的竞争，创业企业之间的问题，包括我们的营商环境，像刚才俊旸说的，我还在做交付，我觉得如果把这个环境建设得更好，让一群敢于冒险的聪明人有更多的时间去做这样创新的事情，比如说让俊旸有更多的时间做创新的事情，这是第二个，也许是我们政府，包括我们国家可以帮忙改善的事情。 第三，回到我们每个人自己身上，就是我们能不能坚持。 我们能不能愿意在一条路上敢做、敢冒险，而且环境还不错。我觉得环境肯定不会是最好的，永远不会想着环境是最好的，我们恰恰是幸运，我们经历环境从原来没那么好，到慢慢变得更好的一个时代，我们是经历者，也许就是财富，包括经历收获最多的人。 如果我们笨笨的坚持，也许走到最后的就是我们。 感谢大家！ 结语 李广密： 感谢唐老师。我们也很想呼吁，应该把更多的资源资金投入到中国的AGI行业，有更多的算力，让更多AI年轻的研究员搓卡，有可能搓个三五年，中国有三五个自己的伊利亚，这是我们未来三五年很期待的。 非常感谢大家！ AGI Next 展望 演讲人：张钹（中国科学院院士、清华大学教授） 唐杰老师要我说几句话，我犹豫该不该说、能不能说，听了这个报告之后，我一直在思索，觉得还可以说几句话。 实际上我没有资格说这些话，首先我跟大家的年龄已经差得非常多了，刚才唐杰老师还说下一代如何替代他，我早已经被替代了。 另外，对企业来讲我是外行，但是我想起刚才杨强老师提到的哥德尔的那句话，不完全性定理。也就是说，系统内部、圈子内部的人很难发现它里头的问题和错误。我作为圈外的人，因此给我提供了条件，有可能发现你们还发现不到的问题。 我在中间休息的时候做了PPT，我不敢太早做，没听到大家是怎么做的，不敢先做。 一、我们现在正在干什么 从刚才各位介绍中，大家都在做大语言模型，实际上最初的就是做一个聊天机器人，也就是说希望机器跟人类能够说话。这个做的结果怎么样？做的结果是这样： 在外部提示下，机器能够在开放领域生成多样性的、语义上连贯的、类似人类的语言。 做到这一点，这一点算不算掌握了人类的语言呢？应该说算，但是还不够彻底，也就是说我们发现它里头有很多地方跟人类语言不一样，这个怎么办？什么原因引起的？大家又问，我们今后究竟通过这个能做到什么程度？最后能不能像人类那样理解自己的工作，而且对自己的问题能够进行反思、能够有意识，哲学来讲叫做有没有 自反性 。 我们现在从这个出发，究竟现在大语言模型用的什么原理？实际上用了 分布式语义的原理 ，也就是把语义翻译成Firth说的这句话，用它周围共现频率最高的词，来作为这个词的语义，他是这么来定义的。 从这出发，我们就有条件把共现的词变成从共现中学习语义，我们现在就是这么做的。实际上是把原来离散空间里共现的词，变成高维空间里头稀疏的空间，把它变成稠密的向量空间的几何结构，这是一个重大的进步，使得我们语言变成可计算的。因为原来稀疏的共现空间是不能计算的，现在变成稠密的向量空间就可以计算。所以 把语言处理的问题完全变成数学计算问题 。 可以证明，只要你用的数据量足够多，用的上下文足够长，这个空间就会出现语义关系空间。如果我们有了足够的数据，有了足够长的文本，就会使这个越接近它。大家现在拼命在这方面做工作，这个长度越长越好，数据越多越好，现在基本上趋近于语义关系了。从这个角度来看，唐杰老师也说了一定意义下完全可以做到理解、可以做到自反性，也就是对自己的思考进行思考。实际上现在大家在大语言模型中，已经发现了这个现象。 这个问题现在出在哪里？出在 模型是近似的，不是人类语言的真正模型 ，为什么？因为我们使用的定义是用共现的词来定义语义。关于语义的定义，世界上有七八种不同哲学学派的定义，我们对语义并没有科学的定义，所以现在所用的定义都是不完备的，都是近似的。这样就告诉我们，即使你把这个模型做得非常大，你毕竟也是在这个语义定义下的语义关系。 所以现在很多人提出来，很多人发现机器人出现很多怪现象，都归结于语义有问题，这是有错误的。现在很多东西是由于模型近似引起的，我们这么定义语义本身是很不完备、很不准确的，因为科学上现在并找不到准确的定义。这就会出现 五个缺失 ： 1. 1. 指称的缺失 2. 2. 真值和因果的缺失 3. 3. 语用的缺失 4. 4. 多义和动态语境的缺失 5. 5. 闭环行为的缺失 这五个缺失必然会影响到你用语言模型去做应用。所以现在我们要做的就是在干这件事。 刚才也有很多报告讲得非常清楚，我们通过这里头的体系结构、算法本身，是会帮助我们不断趋近这个语义关系，但是这个语义关系，是我们目前能够得到最好的，不可能再得到我们真正需要的准确的定义。所以这五个缺失必然存在。 二、我们现在需要干什么、想干什么 实际上现在大家所做的事情就是要从LLM实现 在实际环境下执行复杂任务的Agent ，大家现在在做这个事。你把语言模型拿去应用，现在有很多问题，想从语言模型再跨进一步，把它变成可执行复杂任务的Agent。 大家把这个目标用一个概念来套，叫做 通用人工智能 。其实用这个概念有很多误解，实际上我们目标是这个，但是为了说得好听，大家都说AGI，因为AGI很有吸引力。这里有一个误导，大家以为做AGI都要做通用，其实AGI确实强调通用，但是跟我们目前想做的事不是一回事，但现在大家都这么用，我们也只好这么用。所以很多用这个目标来做定义的肯定都不行，都会引起很大的误解。比如马斯克说，我们人类能够干70%以上的任务，机器都会干，而且达到或者超过人类的水平，这样的定义 完全不可执行、不可检验 ，所以必然引起很多误解。有的人说很容易得到，有的人说根本达不到，为什么？因为这个定义非常模糊。什么叫做达到人类水平？识别率超过人类，算不算达到人类的水平？有的人说算，有的人说根本不算，如果鲁棒性从其他方面来看差得远。 所以我认为必须要定义一个 可执行、可检验的定义 。 我认为可执行、可检验的定义，AGI就应该满足下面5个要求，达到下面 5个关键的能力 。其实现在大家在做的都是这5件事。刚才唐老师讲了4个层次，实际上包括我这里的几个层次，但少了一个。我这里强调这几个问题的形容词非常重要： 1. 时空一致的多模态理解与落地 大家都在做这个，关键在哪里？关键在 时空一致性 ，这是非常大的困难。大家知道每个模态的时间是不同步的，视频是一个帧一个帧的，文本是几千年一句话，两个词很难对齐，你如果对不齐，根本做不到多模态理解。 2. 可控的在线学习与适应 过去我们做的主要是离线学习，刚才大家说RL强化学习，其实强化学习最重要的是 可控性问题 。刚才唐老师说到可验证，可验证放在推理可控的问题，其实强化学习最大的问题是不可控，你虽然有目标在那儿，但这个目标能不能收敛到那去，整个学习过程是不可控的。如果不解决可控的问题，其实在线学习的效果不会特别好。 3. 可验证的推理与长期执行与规划 对于推理来讲，必须要 可验证 。对于很多大模型里头，很多推理不可验证，很难判定它对与错。规划主要是集中在长期的规划和执行，所以这个关键的问题必须抓住一个形容词。 4. 可校准的反思与元认知 现在所有的反思都是一种感觉，并没有可回溯、可检验、可把它变成一个准确的信号，所以这也是关键问题。 5. 跨任务强泛化 大家知道大语言模型在跨领域的泛化上效果很好，但如果我们要让它去执行实际的任务，必须要实现 跨任务的泛化 。这里头最大的困难就是分布以外的、结构不一样的、长尾的东西的泛化，刚才都说到了。 所以我认为如果我们把这个作为我们的目标，我们就有一个可执行、可检验的定义，我认为按照这个定义，应该是可以指导我们往前做的。 三、再走一步，怎么办 整个讲起来就是组成这么一个东西，就是Agent。 实际上我们现在做的几件事都是冲着解决这5个问题的： • • 多模态 • • 具身与交互落地 • • 检索与证据落地 • • 结构化知识对齐 • • 工具与执行落地 • • 对齐与约束落地 具体的，我们就做这六件事，这六件事都是冲着刚才讲的五个目标来完成的。 四、我们的目标是什么 过去人工智能只是作为工具，现在我们处于一个非常矛盾的状态， 我们一方面又希望人工智能能够做更多更复杂的事情，又害怕人工智能超过我们，成为新的主体 。所以大家非常焦虑，过去我们只有一个主体，人类都摆不平，因为人类这个主体是复数的，不是单数的，每个主体的要求都不一样。之后再出现人类以外的主体，我们该怎么办？我们如何跟人工智能相处？我们如何来解决这种担忧？ 实际上未来的主体分成3个层次： 1. 功能 行动主体 目前我们已经达到了，而且很希望它达到，因为它可以帮助我们。 2. 规范 责任主体 这个目前还没达到，一个最大的困难： 如何使机器也能够担负起责任来 ，这是我们希望做到的，但从目前的情况来讲有一定的难度，技术的难度比较高，但我相信大家会努力地争取做这个事。 3. 体验 意识主体 大家最怕的是这个，一旦机器有了意识以后，我们人类该怎么办？ 如果我们做实际企业的人，可能不必考虑太远，我们考虑第一、第二就可以，但是这两个问题必须考虑： 对齐和治理 。 对齐这个问题，大家谈得很多，机器一定要和人类对齐吗？这是值得讨论的问题，人类并不是都有优点的，人类中间有贪婪、欺骗，原来机器都没有，向人类对齐，人类到了最高吗？不是，我们也涉及到这个问题。 我们如何来治理？我认为 最主要的治理不是治理机器，而是治理人类，也就是研究者和使用者 。 这里头，涉及到我们人工智能时代的企业、企业家应该担负什么责任。 五、AI时代的企业家 在大语言模型出现之前，我非常不赞成我的学生去创业，有的学生家长找我，有些学生家长跟我的观点也一样，说别去搞企业。 但是大模型之后，我觉得最优秀的学生应该去搞企业 ，因为人工智能给企业家做了重新的定义，刚才说人工智能会定义一切，同时也定义未来的企业家。 这里头未来的企业家应该具备这六个方面的职责。 我简单说一下 重新定义价值的创造 。人工智能不是给大家简单的提供产品和服务，而是把知识、伦理和应用变成可复用的工具，去实现对人类的造福，所以这个东西完全改变了。而且要把人工智能作为像水和电那样通用的技术交给人类，所以企业家的要求很高。包括关于治理问题，对于企业家、对企业也必须把这个社会的责任担当起来，包括实现普惠的可持续增长。 所以 人工智能时代的企业家是有很多新的使命的，这个新的使命就使得人工智能时代的企业家把企业、企业家也变成光荣的、神圣的职业之一 。 谢谢大家！ 唐杰（主持人）结语 非常感谢张院士的点评。张院士用了20多分钟，PPT是刚才现场出去做的PPT，非常感谢，我们再次把掌声送给张院士！ 张院士是我非常景仰的一位老先生， 张院士今年91岁 ，很多人给我发消息说根本看不出张院士90多岁这么精神，还有人问我你90多岁的时候还能不能这么精神！ 非常感谢几位讲者、Panel和张院士的发言。去年中国的开源做了很多事情，包括Kimi、千问和GLM都做了很多工作，包括腾讯，很多人对腾讯的印象是腾讯不开源，其实腾讯也做了很多开源。顺雨没办法来到现场，要不然也会给大家讲一讲，希望几年后大家未来团结在一起，能代表中国对外把AGI做得更好，这是咱们一起努力的一个方向。 第二是感谢在场的很多学者、很多嘉宾、包括很多领导，今天还蛮感动的，以前很多报告会，都是第一排的领导讲完就走了，把掌声送给我们的领导和院士，他们都坚持到最后，领导也在听各种报告。 最后咱们一起奔赴下一次AGI Next，咱们瞄向未来，希望这个活动继续，实验室至少会延续5年以上。 最后再说一句感谢嘉宾的话，这个活动有很多嘉宾都是很尊贵的嘉宾，我们这次为了回归学术，把它搞得非常简单，仪式也非常简单，没有更多的渲染各位嘉宾的到来，照顾不周，敬请原谅。 感谢大家！咱们未来相见！ You don't have permission to access this synced block. Please log in and try again. Log In 李广密： 我再Follow一个问题，比如说中国的模型跟美国的模型差距，有的地方在追上来，有的地方他们的算力在拉大，你内心中Gap变大的恐惧感强吗？ 林俊旸： 今天你干这一行就不能恐惧，必须得有非常强的心态，对于我们的心态来说，能干这一行就非常不错了，能做大模型这件事情已经非常幸运了。 我觉得还是看你的初心是什么，刚才顺雨提到一个点，你的模型不一定那么强在C端里边是OK的。我可能转换成另外一个角度去思考这个问题， 我们的模型为人类社会带来了什么样的价值 ，只要我相信我这个东西能够为人类社会带来充分的价值，能够帮助人类，就算不是最强的，我也愿意接受。 李广密： 多谢俊旸。有请杨老师，因为您经历过很多AI的周期，也看过很多中国的AI公司变成世界最强，您对这个问题的判断。 杨强： 我们可以回顾一下互联网的发展，一开始也是从美国开始，但中国很快就赶上了，而且应用像微信，是世界第一的。我想AI是一个技术，它并不是一个终端的产品，但我们中国有很多聪明才智会把这个产品发挥到极致，不管是To B还是To C，但 我可能更看好To C，因为百花齐放，中国人集思广益 。但To B可能会有一些限制，像付费意愿、企业文化等也在改变。 我最近也在观察商业方向跟商学院的一些同学探讨，比方说美国有一个公司叫 Palantir ，它的一个理念是不管AI现在发展到什么阶段，我总是能在AI里面发现一些好的东西应用在企业上，中间肯定有gap，我们要给它弥合，它有一个办法叫本体，用的是本体的方法。我观察了一下，大概的思想是我们之前做的迁移学习，就是说把一个通用的Solution能够应用到一个具体的实践当中，用一个本体来做知识的迁移，这个方法非常巧妙。当然它是通过一种工程的方法，叫前端工程师FDE来解决的。不管怎么样，我觉得像这种就非常值得我们学习，我觉得中国的企业像AI Native的公司应该发展出这样一些To B的Solution来，我相信会的。所以我觉得 To C肯定是百花齐放的，To B也会很快的跟上来 。 李广密： 多谢杨老师。有请唐老师。 唐杰： 首先我觉得确实要承认在中美，无论是做研究，尤其是企业界的AI Lab， 我觉得和美国是有差距的 ，这是第一个。 但我觉得在未来中国，现在慢慢变得越来越好，尤其是90后、00后这一代，远远好过之前。有一次我在一个会上说我们这一代最不幸运，上一代也在继续工作，我们也在工作，所以我们还没有出头之日，很不幸的是下一代已经出来了，世界已经交给下一代了，已经把我们这一代无缝跳过了。这是开玩笑的。 中国也许的机会： 第一，一群聪明人真的敢做特别冒险的事 ，我觉得现在是有的，00后这一代，包括90后这一代是有的，包括俊旸、Kimi、顺雨都非常愿意冒风险来做这样的事情。 第二，咱们的环境可能更好一些 ，无论是国家的环境，比如说大企业和小企业之间的竞争，创业企业之间的问题，包括我们的营商环境，像刚才俊旸说的，我还在做交付，我觉得如果把这个环境建设得更好，让一群敢于冒险的聪明人有更多的时间去做这样创新的事情，比如说让俊旸有更多的时间做创新的事情，这是第二个，也许是我们政府，包括我们国家可以帮忙改善的事情。 第三，回到我们每个人自己身上，就是我们能不能坚持。 我们能不能愿意在一条路上敢做、敢冒险，而且环境还不错。我觉得环境肯定不会是最好的，永远不会想着环境是最好的，我们恰恰是幸运，我们经历环境从原来没那么好，到慢慢变得更好的一个时代，我们是经历者，也许就是财富，包括经历收获最多的人。 如果我们笨笨的坚持，也许走到最后的就是我们。 感谢大家！ 结语 李广密： 感谢唐老师。我们也很想呼吁，应该把更多的资源资金投入到中国的AGI行业，有更多的算力，让更多AI年轻的研究员搓卡，有可能搓个三五年，中国有三五个自己的伊利亚，这是我们未来三五年很期待的。 非常感谢大家！ AGI Next 展望 演讲人：张钹（中国科学院院士、清华大学教授） 唐杰老师要我说几句话，我犹豫该不该说、能不能说，听了这个报告之后，我一直在思索，觉得还可以说几句话。 实际上我没有资格说这些话，首先我跟大家的年龄已经差得非常多了，刚才唐杰老师还说下一代如何替代他，我早已经被替代了。 另外，对企业来讲我是外行，但是我想起刚才杨强老师提到的哥德尔的那句话，不完全性定理。也就是说，系统内部、圈子内部的人很难发现它里头的问题和错误。我作为圈外的人，因此给我提供了条件，有可能发现你们还发现不到的问题。 我在中间休息的时候做了PPT，我不敢太早做，没听到大家是怎么做的，不敢先做。 一、我们现在正在干什么 从刚才各位介绍中，大家都在做大语言模型，实际上最初的就是做一个聊天机器人，也就是说希望机器跟人类能够说话。这个做的结果怎么样？做的结果是这样： 在外部提示下，机器能够在开放领域生成多样性的、语义上连贯的、类似人类的语言。 做到这一点，这一点算不算掌握了人类的语言呢？应该说算，但是还不够彻底，也就是说我们发现它里头有很多地方跟人类语言不一样，这个怎么办？什么原因引起的？大家又问，我们今后究竟通过这个能做到什么程度？最后能不能像人类那样理解自己的工作，而且对自己的问题能够进行反思、能够有意识，哲学来讲叫做有没有 自反性 。 我们现在从这个出发，究竟现在大语言模型用的什么原理？实际上用了 分布式语义的原理 ，也就是把语义翻译成Firth说的这句话，用它周围共现频率最高的词，来作为这个词的语义，他是这么来定义的。 从这出发，我们就有条件把共现的词变成从共现中学习语义，我们现在就是这么做的。实际上是把原来离散空间里共现的词，变成高维空间里头稀疏的空间，把它变成稠密的向量空间的几何结构，这是一个重大的进步，使得我们语言变成可计算的。因为原来稀疏的共现空间是不能计算的，现在变成稠密的向量空间就可以计算。所以 把语言处理的问题完全变成数学计算问题 。 可以证明，只要你用的数据量足够多，用的上下文足够长，这个空间就会出现语义关系空间。如果我们有了足够的数据，有了足够长的文本，就会使这个越接近它。大家现在拼命在这方面做工作，这个长度越长越好，数据越多越好，现在基本上趋近于语义关系了。从这个角度来看，唐杰老师也说了一定意义下完全可以做到理解、可以做到自反性，也就是对自己的思考进行思考。实际上现在大家在大语言模型中，已经发现了这个现象。 这个问题现在出在哪里？出在 模型是近似的，不是人类语言的真正模型 ，为什么？因为我们使用的定义是用共现的词来定义语义。关于语义的定义，世界上有七八种不同哲学学派的定义，我们对语义并没有科学的定义，所以现在所用的定义都是不完备的，都是近似的。这样就告诉我们，即使你把这个模型做得非常大，你毕竟也是在这个语义定义下的语义关系。 所以现在很多人提出来，很多人发现机器人出现很多怪现象，都归结于语义有问题，这是有错误的。现在很多东西是由于模型近似引起的，我们这么定义语义本身是很不完备、很不准确的，因为科学上现在并找不到准确的定义。这就会出现 五个缺失 ： 1. 1. 指称的缺失 2. 2. 真值和因果的缺失 3. 3. 语用的缺失 4. 4. 多义和动态语境的缺失 5. 5. 闭环行为的缺失 这五个缺失必然会影响到你用语言模型去做应用。所以现在我们要做的就是在干这件事。 刚才也有很多报告讲得非常清楚，我们通过这里头的体系结构、算法本身，是会帮助我们不断趋近这个语义关系，但是这个语义关系，是我们目前能够得到最好的，不可能再得到我们真正需要的准确的定义。所以这五个缺失必然存在。 二、我们现在需要干什么、想干什么 实际上现在大家所做的事情就是要从LLM实现 在实际环境下执行复杂任务的Agent ，大家现在在做这个事。你把语言模型拿去应用，现在有很多问题，想从语言模型再跨进一步，把它变成可执行复杂任务的Agent。 大家把这个目标用一个概念来套，叫做 通用人工智能 。其实用这个概念有很多误解，实际上我们目标是这个，但是为了说得好听，大家都说AGI，因为AGI很有吸引力。这里有一个误导，大家以为做AGI都要做通用，其实AGI确实强调通用，但是跟我们目前想做的事不是一回事，但现在大家都这么用，我们也只好这么用。所以很多用这个目标来做定义的肯定都不行，都会引起很大的误解。比如马斯克说，我们人类能够干70%以上的任务，机器都会干，而且达到或者超过人类的水平，这样的定义 完全不可执行、不可检验 ，所以必然引起很多误解。有的人说很容易得到，有的人说根本达不到，为什么？因为这个定义非常模糊。什么叫做达到人类水平？识别率超过人类，算不算达到人类的水平？有的人说算，有的人说根本不算，如果鲁棒性从其他方面来看差得远。 所以我认为必须要定义一个 可执行、可检验的定义 。 我认为可执行、可检验的定义，AGI就应该满足下面5个要求，达到下面 5个关键的能力 。其实现在大家在做的都是这5件事。刚才唐老师讲了4个层次，实际上包括我这里的几个层次，但少了一个。我这里强调这几个问题的形容词非常重要： 1. 时空一致的多模态理解与落地 大家都在做这个，关键在哪里？关键在 时空一致性 ，这是非常大的困难。大家知道每个模态的时间是不同步的，视频是一个帧一个帧的，文本是几千年一句话，两个词很难对齐，你如果对不齐，根本做不到多模态理解。 2. 可控的在线学习与适应 过去我们做的主要是离线学习，刚才大家说RL强化学习，其实强化学习最重要的是 可控性问题 。刚才唐老师说到可验证，可验证放在推理可控的问题，其实强化学习最大的问题是不可控，你虽然有目标在那儿，但这个目标能不能收敛到那去，整个学习过程是不可控的。如果不解决可控的问题，其实在线学习的效果不会特别好。 3. 可验证的推理与长期执行与规划 对于推理来讲，必须要 可验证 。对于很多大模型里头，很多推理不可验证，很难判定它对与错。规划主要是集中在长期的规划和执行，所以这个关键的问题必须抓住一个形容词。 4. 可校准的反思与元认知 现在所有的反思都是一种感觉，并没有可回溯、可检验、可把它变成一个准确的信号，所以这也是关键问题。 5. 跨任务强泛化 大家知道大语言模型在跨领域的泛化上效果很好，但如果我们要让它去执行实际的任务，必须要实现 跨任务的泛化 。这里头最大的困难就是分布以外的、结构不一样的、长尾的东西的泛化，刚才都说到了。 所以我认为如果我们把这个作为我们的目标，我们就有一个可执行、可检验的定义，我认为按照这个定义，应该是可以指导我们往前做的。 三、再走一步，怎么办 整个讲起来就是组成这么一个东西，就是Agent。 实际上我们现在做的几件事都是冲着解决这5个问题的： • • 多模态 • • 具身与交互落地 • • 检索与证据落地 • • 结构化知识对齐 • • 工具与执行落地 • • 对齐与约束落地 具体的，我们就做这六件事，这六件事都是冲着刚才讲的五个目标来完成的。 四、我们的目标是什么 过去人工智能只是作为工具，现在我们处于一个非常矛盾的状态， 我们一方面又希望人工智能能够做更多更复杂的事情，又害怕人工智能超过我们，成为新的主体 。所以大家非常焦虑，过去我们只有一个主体，人类都摆不平，因为人类这个主体是复数的，不是单数的，每个主体的要求都不一样。之后再出现人类以外的主体，我们该怎么办？我们如何跟人工智能相处？我们如何来解决这种担忧？ 实际上未来的主体分成3个层次： 1. 功能 行动主体 目前我们已经达到了，而且很希望它达到，因为它可以帮助我们。 2. 规范 责任主体 这个目前还没达到，一个最大的困难： 如何使机器也能够担负起责任来 ，这是我们希望做到的，但从目前的情况来讲有一定的难度，技术的难度比较高，但我相信大家会努力地争取做这个事。 3. 体验 意识主体 大家最怕的是这个，一旦机器有了意识以后，我们人类该怎么办？ 如果我们做实际企业的人，可能不必考虑太远，我们考虑第一、第二就可以，但是这两个问题必须考虑： 对齐和治理 。 对齐这个问题，大家谈得很多，机器一定要和人类对齐吗？这是值得讨论的问题，人类并不是都有优点的，人类中间有贪婪、欺骗，原来机器都没有，向人类对齐，人类到了最高吗？不是，我们也涉及到这个问题。 我们如何来治理？我认为 最主要的治理不是治理机器，而是治理人类，也就是研究者和使用者 。 这里头，涉及到我们人工智能时代的企业、企业家应该担负什么责任。 五、AI时代的企业家 在大语言模型出现之前，我非常不赞成我的学生去创业，有的学生家长找我，有些学生家长跟我的观点也一样，说别去搞企业。 但是大模型之后，我觉得最优秀的学生应该去搞企业 ，因为人工智能给企业家做了重新的定义，刚才说人工智能会定义一切，同时也定义未来的企业家。 这里头未来的企业家应该具备这六个方面的职责。 我简单说一下 重新定义价值的创造 。人工智能不是给大家简单的提供产品和服务，而是把知识、伦理和应用变成可复用的工具，去实现对人类的造福，所以这个东西完全改变了。而且要把人工智能作为像水和电那样通用的技术交给人类，所以企业家的要求很高。包括关于治理问题，对于企业家、对企业也必须把这个社会的责任担当起来，包括实现普惠的可持续增长。 所以 人工智能时代的企业家是有很多新的使命的，这个新的使命就使得人工智能时代的企业家把企业、企业家也变成光荣的、神圣的职业之一 。 谢谢大家！ 唐杰（主持人）结语 非常感谢张院士的点评。张院士用了20多分钟，PPT是刚才现场出去做的PPT，非常感谢，我们再次把掌声送给张院士！ 张院士是我非常景仰的一位老先生， 张院士今年91岁 ，很多人给我发消息说根本看不出张院士90多岁这么精神，还有人问我你90多岁的时候还能不能这么精神！ 非常感谢几位讲者、Panel和张院士的发言。去年中国的开源做了很多事情，包括Kimi、千问和GLM都做了很多工作，包括腾讯，很多人对腾讯的印象是腾讯不开源，其实腾讯也做了很多开源。顺雨没办法来到现场，要不然也会给大家讲一讲，希望几年后大家未来团结在一起，能代表中国对外把A