马斯克xAI动员大会纪要

马斯克xAI动员大会纪要 马斯克xAI动员大会纪要 Modified July 19, 2023 Elon Musk 这是一个很好的问题。首先，我认为这不会一夜之间发生，不会突然发生，你会看到它逐渐发展。至少在美国，对政府干预有一些保护措施。所以我们显然会利用法律制度来防止政府的不当干预。所以我认为我们有一些相当重要的保护措施。但我们应该对此表示关注，这不是一个可以忽视的风险。 是的，这是一个风险。我认为我们在美国拥有可能是最好的保护措施，以限制政府干预非政府组织的权力。但这是我们应该小心的问题。我不知道还能做什么更好，我认为在美国可能是最好的选择。是的，我愿意听取建议。是的，我知道你不是美国政府的最大粉丝。 Kim Dotcom 显然。但是问题是，他们已经有了一种被称为国家安全信函的工具，可以向美国的任何技术公司申请并提出要求，而这些公司甚至不能告诉公众这些要求。这真的很可怕，不是吗？ Elon Musk 我是说，政府必须有非常重大的国家安全原因才能秘密要求公司提供某些需求。现在，这显然强烈依赖于该公司是否愿意反击这样的要求。例如，在 Twitter 或xCorp这样的公司，我们会回应这些要求，但我们不会盲目地通过任何请求。以前的情况是，任何请求都会被盲目通过，这对公众来说并不好。 因此，我们会更加严格，不会盲目地通过价格请求。我们只会支持那些符合公众利益的、我们认同的、我们认为合法的行动。这是我们能做的最好的事情。据我所知，我们是唯一一个这样做的社交媒体公司。你知道，以前就像对付 Twitter 一样，开放式的事务。我很高兴看到最近的一个法律决定，法院重申政府不能侵犯宪法的第一修正案，显然这是一个好的法律决定。所以这是我的意见。 所以我认为，在美国，很大程度上取决于公司是否愿意反对政府的要求。显然，我们的意愿会很高。好的，那么还有什么其他事情我们可以做吗？但我们也将尽可能透明。这样，你知道，其他公民就可以发出警报，反对政府的干预，如果我们能向公众清楚地表明我们认为某些事情正在发生，而这对公众利益不利。 Kim Dotcom 太棒了。所以你能保证，如果你从美国政府收到国家安全请求，即使被禁止告诉我们，你也会告诉我们这个事情发生了吗？ Elon Musk 这取决于情况的严重性。我的意思是，如果我认为公众的利益在严重危险中，我不愿意冒险坐牢或冒险坐牢，那就是我能做的最好的事情。 我认为我们确实需要某种形式的监管监督，我并不认为监管监督是完美的事物，但是我认为它总比什么都没有好。 最近我在中国与一些高级领导人会面时，我特别强调了AI监管的重要性。我相信他们会将此事放在心上，并采取措施。我们需要一种国际的监管机构。当然，执法是困难的，但我认为我们仍然应该努力在这方面做些事情。 8. xAI 如何造福人类？ Kim Dotcom 更积极的问题是，你希望 x.ai 如何造福人类？你的方法与其他 AI 项目有何不同？也许这是一个更积极的问题。 Elon Musk 嗯，你知道，我对AGI的问题已经挣扎了很长时间了，一直对参与其中持有一定的抵抗态度。你知道，我要说的是，关于开放AI，让我给你一些背景信息。我是说，开放AI的存在是因为在谷歌收购DeepMind之后，我曾与拉里·佩奇是亲密的朋友，我们经常进行关于AI安全性的长时间对话。当时，他并没有认真对待AI安全问题，至少在当时是这样。 事实上，有一次他还称我为种族主义者，因为我太偏向于人类团队了，我猜。我说，好吧，你是说你不是种族主义者？我不知道，这似乎很疯狂。这听起来不好。 当时谷歌DeepMind合并后，拉里得到了支持，你知道，他们拥有现在被称为Alphabet的公司的全部控制权。他们控制着现在的Alphabet，而且他们拥有世界上大约四分之三的AI人才以及我许多亲戚的计算机。所以我想，我们需要某种对抗的平衡。 这就是我想到的，如果谷歌DeepMind的反面就是一个开源的非盈利组织。因为命运爱讽刺。现在开放AI是封闭源代码的，而且显然是为了追求利润而贪婪。 因为他们打算在三年内投入我理解的1000亿美元，这需要很多钱。所以开放AI的发展方向与它的创始宗旨截然相反，这真的非常讽刺，正如我的一个朋友乔纳·诺兰所说，最讽刺的结果是最有可能发生的。好吧，现在我知道，希望 x.ai 不会更糟糕。 我认为我们应该对此持谨慎态度。但现在看起来，AGI似乎是不可避免的。所以我们面临两个选择，要么是旁观者，要么是参与者。 作为旁观者，一个人对结果没有太多影响。作为参与者，我认为我们可以创造一个竞争性的、比我要留门开着的微软和谷歌更好的替代品。无论是谷歌还是微软，在激励结构方面，如果你看看他们，谷歌是一家上市公司，拥有许多推动公司表现良好的激励因素。 你还有所有这些ESG的要求，我认为这些要求让公司在一些问题上朝着可疑的方向发展。微软也有类似的激励体系。而 x.ai 则不受市场的影响，也不受非市场的ESG激励的影响。 所以，我们在运作上更加自由。我认为我们的 AI 可以给出一些人们可能觉得有争议的答案，尽管这些答案实际上是真实的。所以，它们可能在某些时候并不符合政治正确。人们可能对一些答案感到愤怒。但只要你尽量优化真相，并尽量减少错误，我认为我们做得很好。 9. 真正的 AI 能理解物理世界 Robert Scoble Twitter 上有很多数据可以用来构建一个验证器。我检查了系统排除的一些事实。因为我们都知道GPT会混淆，你知道，把事物弄混。所以我想听听你们对此的看法，还有其他地方。ChatGPT帮我找到了一个螺丝钉，但却没有帮我在圣何塞国际机场找到咖啡。你们是否在构建一个具有世界知识、三维世界知识的 AI ，可以帮助人们在世界各地找到不同的事物？ Elon Musk 我认为如果 AI 找不到你在机场的咖啡，那它实际上不会是一个非常好的 AI 。所以是的，我猜我们需要理解物理世界，而不仅仅是互联网。 Igor Babuschkin 是的，这些是很棒的想法，Robert，特别是关于在线验证信息或在 Twitter 上验证信息的想法，这是我们一直在思考的。在 Twitter 上，我们有社区备注。所以这实际上是一个非常惊人的数据集，可以用来训练语言模型，试图验证互联网上的事实。 我们必须看看单凭这个是否足够，因为我们知道，根据目前的技术，存在很多问题，比如不可靠、产生幻觉性的事实。我们可能需要发明具体的技术来解决这些问题，确保我们的模型更具事实性，具有更好的推理能力。这就是为什么我们引进了在这些领域具有丰富经验的人员，尤其是数学，这是我们非常关心的领域，我们可以通过它来验证一个定理的证明是否正确，自动地。然后，一旦我们拥有了这种能力，我们将尝试将其扩展到更模糊的领域，你知道，那些不再有数学真理的领域。 Elon Musk 我的意思是，真相不是通过流行的投票来决定的。但是，如果你训练了一个模型，根据互联网数据集中某个词之后最有可能出现的词是什么，那显然会带来一个很大的问题。因为它会给你一个受欢迎但错误的答案。就像过去大多数人认为，地球围绕太阳旋转一样。 如果你以前在 GPU 训练中使用了一些训练方式，然后得到了“太阳围绕地球旋转”的答案，因为每个人都这样认为，这并不意味着它是真的。你知道，如果牛顿或爱因斯坦提出了某个实际上是真实的理论，不管世界上的其他物理学家是否同意，都无关紧要。现实就是现实。所以答案必须以现实为基础。 Igor Babuschkin 当前的模型只是模仿它们所训练的数据。我们真正想做的是改变这种范式，让模型能够发现真相。不仅仅是重复它们从训练数据中学到的东西，而是真正能够产生新的洞察力、新的发现，让我们都能受益。 10. 监管应与技术发展并行 Jimmy Ba 我认为我们大家关心的是监管和ASAP空间，目前的发展以及国际协调问题，以及美国当前的AI公司将如何影响全球AI的发展。你的意思是你希望有规定，但又不希望进展放慢得太多？ Elon Musk 是的，我认为制定规定的正确方式是从洞察力开始。首先，无论是公共机构还是私人机构，任何一种监管机构都应该试图理解，确保有广泛的共识。然后进行拟议的规则制定。如果大多数各方都同意这项拟议的规则制定，那么就会实施这些规定，公司有一段时间来实施这些规定。但我认为总的来说，这不应该对 AGI 的出现产生实质性的减速，或者如果有减速，也不会在很长一段时间内被淘汰。 如果安全性有显著改进，那么稍微放慢一点速度也是值得的。就像我的AGI预测，我认为雷·库兹韦尔（Ray Kurzweil）在某个时候预测的2029年，这大致上是我猜测的时间，加减一年。所以如果AGI需要额外六个月或十二个月，那真的没有什么大不了的。如果花费一年的时间确保AGI的安全性，这可能是值得的，如果需要的话，但我不认为它会导致实质性的减速。 Jimmy Ba 我还可以补充一点，理解高级 AI 内部工作原理可能是目前最有雄心壮志的项目之一，而且也与 x.ai 的使命相符，即理解宇宙。如果航空工程师不理解火箭的工作原理，就不可能建造出安全的火箭。对于我们的安全计划，我们希望采取同样的方法来处理 x.ai 。随着 AI 在不同阶段的进展，风险也会发生变化，我们希望在各个阶段都保持灵活。 Elon Musk 如果我考虑到在汽车和火箭方面，实际上使监管规定有效的并不是监管机构对特斯拉和SpaceX的指示，而更多的是因为我们需要在内部考虑这些问题，然后向监管机构进行证明，这迫使我们更加深入地思考问题。通过更深入地思考问题，我们可以使其更加安全，而不是监管机构特别指出如何使其更加安全。这迫使我们更多地思考。 11. xAI 会如何与外部合作？ Christian Szegedy 无论安全性如何，我的在 Alphabet 的经历都非常让人印象深刻。在涉及与其他实体合作或向他们展示我们的模型时，有很多阻碍，因为我们对内部工作的任何事情都无法公开。所以我想问你，我们在这方面是否更加自由一些，或者你对与更多外部实体合作（比如学术机构或其他研究人员）的理念是什么？ Elon Musk 是的，我当然支持与他人合作。听起来像是一些关于大型上市公司的担忧，他们担心在某种程度上会遭到尴尬或被起诉。但与公司的法律部门相比，它们的规模太小了。我们目前的法律部门是零，所以可能永远都不会有。但是，你知道，起诉上市公司是非常容易的，集体诉讼非常普遍，我认为我们迫切需要美国的集体诉讼改革。 好的集体诉讼与坏的集体诉讼之间的比例已经失衡。这实际上对消费者来说是一种税收。不过，这个国家在有集体诉讼的情况下也能够生存下来。所以并不清楚我们是否真的需要这套法律体系。但是，这确实是大型上市公司的一个主要问题。所以我们会尽量与他人合作，并且通常会保持开放。 实际上，如果你在快速创新，那才是真正的竞争优势，创新的速度是竞争优势，而不是任何单一的创新。事实上，SpaceX 几乎没有专利，而且特斯拉开放专利，允许他人免费使用我们的专利。 只要 SpaceX 和特斯拉继续快速创新，这就是对抗竞争的真正防线，而不是凭借专利或试图隐藏东西。我们发布了专利，将其开源，以便成为扫雷者。我们仍然会被专利流氓起诉，这真的很恼人，但我们实际上确实发布了专利并开源了它们，这就像是一个扫雷者。 12. xAI 与OpenAI 差异，以及 Optimus Walter Isaacson 自从三月以来，关于 AI 的讨论主要集中在大型语言模型和生成式 AI 上，而你和我在书中也讨论了实际应用的重要性，包括 Optimus 和特斯拉 FSD（全自动驾驶）。你认为 x.ai 在实际应用的 AI 中扮演着怎样的角色，与 OpenAI 所做的有何区别？而且你通过实现 FSD 而在某种程度上占据了优势，对吗？ Elon Musk 没错。特斯拉在实际应用的 AI 方面是领先者，我认为领先的优势相当大。实际上，特斯拉在实际应用的 AI 方面的进展程度并不被人们充分了解。是的。由于我与特斯拉的 AI 团队花了很多时间，所以我比较了解实际应用的 AI 是如何实现的。与特斯拉进行合作可以带来很多好处。 我认为双向合作都可以让 x.ai 对特斯拉有所帮助，反之亦然。我们也有一些合作关系，比如我们的材料科学团队，我认为可能是世界上最好的团队之一，实际上是特斯拉和 SpaceX 共享的。这对于招募世界上最好的工程师非常有帮助，因为在先进的电动汽车和火箭上工作会更有趣，而不仅仅是其中之一。 Elon Musk 这是一个很好的问题。首先，我认为这不会一夜之间发生，不会突然发生，你会看到它逐渐发展。至少在美国，对政府干预有一些保护措施。所以我们显然会利用法律制度来防止政府的不当干预。所以我认为我们有一些相当重要的保护措施。但我们应该对此表示关注，这不是一个可以忽视的风险。 是的，这是一个风险。我认为我们在美国拥有可能是最好的保护措施，以限制政府干预非政府组织的权力。但这是我们应该小心的问题。我不知道还能做什么更好，我认为在美国可能是最好的选择。是的，我愿意听取建议。是的，我知道你不是美国政府的最大粉丝。 Kim Dotcom 显然。但是问题是，他们已经有了一种被称为国家安全信函的工具，可以向美国的任何技术公司申请并提出要求，而这些公司甚至不能告诉公众这些要求。这真的很可怕，不是吗？ Elon Musk 我是说，政府必须有非常重大的国家安全原因才能秘密要求公司提供某些需求。现在，这显然强烈依赖于该公司是否愿意反击这样的要求。例如，在 Twitter 或xCorp这样的公司，我们会回应这些要求，但我们不会盲目地通过任何请求。以前的情况是，任何请求都会被盲目通过，这对公众来说并不好。 因此，我们会更加严格，不会盲目地通过价格请求。我们只会支持那些符合公众利益的、我们认同的、我们认为合法的行动。这是我们能做的最好的事情。据我所知，我们是唯一一个这样做的社交媒体公司。你知道，以前就像对付 Twitter 一样，开放式的事务。我很高兴看到最近的一个法律决定，法院重申政府不能侵犯宪法的第一修正案，显然这是一个好的法律决定。所以这是我的意见。 所以我认为，在美国，很大程度上取决于公司是否愿意反对政府的要求。显然，我们的意愿会很高。好的，那么还有什么其他事情我们可以做吗？但我们也将尽可能透明。这样，你知道，其他公民就可以发出警报，反对政府的干预，如果我们能向公众清楚地表明我们认为某些事情正在发生，而这对公众利益不利。 Kim Dotcom 太棒了。所以你能保证，如果你从美国政府收到国家安全请求，即使被禁止告诉我们，你也会告诉我们这个事情发生了吗？ Elon Musk 这取决于情况的严重性。我的意思是，如果我认为公众的利益在严重危险中，我不愿意冒险坐牢或冒险坐牢，那就是我能做的最好的事情。 我认为我们确实需要某种形式的监管监督，我并不认为监管监督是完美的事物，但是我认为它总比什么都没有好。 最近我在中国与一些高级领导人会面时，我特别强调了AI监管的重要性。我相信他们会将此事放在心上，并采取措施。我们需要一种国际的监管机构。当然，执法是困难的，但我认为我们仍然应该努力在这方面做些事情。 8. xAI 如何造福人类？ Kim Dotcom 更积极的问题是，你希望 x.ai 如何造福人类？你的方法与其他 AI 项目有何不同？也许这是一个更积极的问题。 Elon Musk 嗯，你知道，我对AGI的问题已经挣扎了很长时间了，一直对参与其中持有一定的抵抗态度。你知道，我要说的是，关于开放AI，让我给你一些背景信息。我是说，开放AI的存在是因为在谷歌收购DeepMind之后，我曾与拉里·佩奇是亲密的朋友，我们经常进行关于AI安全性的长时间对话。当时，他并没有认真对待AI安全问题，至少在当时是这样。 事实上，有一次他还称我为种族主义者，因为我太偏向于人类团队了，我猜。我说，好吧，你是说你不是种族主义者？我不知道，这似乎很疯狂。这听起来不好。 当时谷歌DeepMind合并后，拉里得到了支持，你知道，他们拥有现在被称为Alphabet的公司的全部控制权。他们控制着现在的Alphabet，而且他们拥有世界上大约四分之三的AI人才以及我许多亲戚的计算机。所以我想，我们需要某种对抗的平衡。 这就是我想到的，如果谷歌DeepMind的反面就是一个开源的非盈利组织。因为命运爱讽刺。现在开放AI是封闭源代码的，而且显然是为了追求利润而贪婪。 因为他们打算在三年内投入我理解的1000亿美元，这需要很多钱。所以开放AI的发展方向与它的创始宗旨截然相反，这真的非常讽刺，正如我的一个朋友乔纳·诺兰所说，最讽刺的结果是最有可能发生的。好吧，现在我知道，希望 x.ai 不会更糟糕。 我认为我们应该对此持谨慎态度。但现在看起来，AGI似乎是不可避免的。所以我们面临两个选择，要么是旁观者，要么是参与者。 作为旁观者，一个人对结果没有太多影响。作为参与者，我认为我们可以创造一个竞争性的、比我要留门开着的微软和谷歌更好的替代品。无论是谷歌还是微软，在激励结构方面，如果你看看他们，谷歌是一家上市公司，拥有许多推动公司表现良好的激励因素。 你还有所有这些ESG的要求，我认为这些要求让公司在一些问题上朝着可疑的方向发展。微软也有类似的激励体系。而 x.ai 则不受市场的影响，也不受非市场的ESG激励的影响。 所以，我们在运作上更加自由。我认为我们的 AI 可以给出一些人们可能觉得有争议的答案，尽管这些答案实际上是真实的。所以，它们可能在某些时候并不符合政治正确。人们可能对一些答案感到愤怒。但只要你尽量优化真相，并尽量减少错误，我认为我们做得很好。 9. 真正的 AI 能理解物理世界 Robert Scoble Twitter 上有很多数据可以用来构建一个验证器。我检查了系统排除的一些事实。因为我们都知道GPT会混淆，你知道，把事物弄混。所以我想听听你们对此的看法，还有其他地方。ChatGPT帮我找到了一个螺丝钉，但却没有帮我在圣何塞国际机场找到咖啡。你们是否在构建一个具有世界知识、三维世界知识的 AI ，可以帮助人们在世界各地找到不同的事物？ Elon Musk 我认为如果 AI 找不到你在机场的咖啡，那它实际上不会是一个非常好的 AI 。所以是的，我猜我们需要理解物理世界，而不仅仅是互联网。 Igor Babuschkin 是的，这些是很棒的想法，Robert，特别是关于在线验证信息或在 Twitter 上验证信息的想法，这是我们一直在思考的。在 Twitter 上，我们有社区备注。所以这实际上是一个非常惊人的数据集，可以用来训练语言模型，试图验证互联网上的事实。 我们必须看看单凭这个是否足够，因为我们知道，根据目前的技术，存在很多问题，比如不可靠、产生幻觉性的事实。我们可能需要发明具体的技术来解决这些问题，确保我们的模型更具事实性，具有更好的推理能力。这就是为什么我们引进了在这些领域具有丰富经验的人员，尤其是数学，这是我们非常关心的领域，我们可以通过它来验证一个定理的证明是否正确，自动地。然后，一旦我们拥有了这种能力，我们将尝试将其扩展到更模糊的领域，你知道，那些不再有数学真理的领域。 Elon Musk 我的意思是，真相不是通过流行的投票来决定的。但是，如果你训练了一个模型，根据互联网数据集中某个词之后最有可能出现的词是什么，那显然会带来一个很大的问题。因为它会给你一个受欢迎但错误的答案。就像过去大多数人认为，地球围绕太阳旋转一样。 如果你以前在 GPU 训练中使用了一些训练方式，然后得到了“太阳围绕地球旋转”的答案，因为每个人都这样认为，这并不意味着它是真的。你知道，如果牛顿或爱因斯坦提出了某个实际上是真实的理论，不管世界上的其他物理学家是否同意，都无关紧要。现实就是现实。所以答案必须以现实为基础。 Igor Babuschkin 当前的模型只是模仿它们所训练的数据。我们真正想做的是改变这种范式，让模型能够发现真相。不仅仅是重复它们从训练数据中学到的东西，而是真正能够产生新的洞察力、新的发现，让我们都能受益。 10. 监管应与技术发展并行 Jimmy Ba 我认为我们大家关心的是监管和ASAP空间，目前的发展以及国际协调问题，以及美国当前的AI公司将如何影响全球AI的发展。你的意思是你希望有规定，但又不希望进展放慢得太多？ Elon Musk 是的，我认为制定规定的正确方式是从洞察力开始。首先，无论是公共机构还是私人机构，任何一种监管机构都应该试图理解，确保有广泛的共识。然后进行拟议的规则制定。如果大多数各方都同意这项拟议的规则制定，那么就会实施这些规定，公司有一段时间来实施这些规定。但我认为总的来说，这不应该对 AGI 的出现产生实质性的减速，或者如果有减速，也不会在很长一段时间内被淘汰。 如果安全性有显著改进，那么稍微放慢一点速度也是值得的。就像我的AGI预测，我认为雷·库兹韦尔（Ray Kurzweil）在某个时候预测的2029年，这大致上是我猜测的时间，加减一年。所以如果AGI需要额外六个月或十二个月，那真的没有什么大不了的。如果花费一年的时间确保AGI的安全性，这可能是值得的，如果需要的话，但我不认为它会导致实质性的减速。 Jimmy Ba 我还可以补充一点，理解高级 AI 内部工作原理可能是目前最有雄心壮志的项目之一，而且也与 x.ai 的使命相符，即理解宇宙。如果航空工程师不理解火箭的工作原理，就不可能建造出安全的火箭。对于我们的安全计划，我们希望采取同样的方法来处理 x.ai 。随着 AI 在不同阶段的进展，风险也会发生变化，我们希望在各个阶段都保持灵活。 Elon Musk 如果我考虑到在汽车和火箭方面，实际上使监管规定有效的并不是监管机构对特斯拉和SpaceX的指示，而更多的是因为我们需要在内部考虑这些问题，然后向监管机构进行证明，这迫使我们更加深入地思考问题。通过更深入地思考问题，我们可以使其更加安全，而不是监管机构特别指出如何使其更加安全。这迫使我们更多地思考。 11. xAI 会如何与外部合作？ Christian Szegedy 无论安全性如何，我的在 Alphabet 的经历都非常让人印象深刻。在涉及与其他实体合作或向他们展示我们的模型时，有很多阻碍，因为我们对内部工作的任何事情都无法公开。所以我想问你，我们在这方面是否更加自由一些，或者你对与更多外部实体合作（比如学术机构或其他研究人员）的理念是什么？ Elon Musk 是的，我当然支持与他人合作。听起来像是一些关于大型上市公司的担忧，他们担心在某种程度上会遭到尴尬或被起诉。但与公司的法律部门相比，它们的规模太小了。我们目前的法律部门是零，所以可能永远都不会有。但是，你知道，起诉上市公司是非常容易的，集体诉讼非常普遍，我认为我们迫切需要美国的集体诉讼改革。 好的集体诉讼与坏的集体诉讼之间的比例已经失衡。这实际上对消费者来说是一种税收。不过，这个国家在有集体诉讼的情况下也能够生存下来。所以并不清楚我们是否真的需要这套法律体系。但是，这确实是大型上市公司的一个主要问题。所以我们会尽量与他人合作，并且通常会保持开放。 实际上，如果你在快速创新，那才是真正的竞争优势，创新的速度是竞争优势，而不是任何单一的创新。事实上，SpaceX 几乎没有专利，而且特斯拉开放专利，允许他人免费使用我们的专利。 只要 SpaceX 和特斯拉继续快速创新，这就是对抗竞争的真正防线，而不是凭借专利或试图隐藏东西。我们发布了专利，将其开源，以便成为扫雷者。我们仍然会被专利流氓起诉，这真的很恼人，但我们实际上确实发布了专利并开源了它们，这就像是一个扫雷者。 12. xAI 与OpenAI 差异，以及 Optimus Walter Isaacson 自从三月以来，关于 AI 的讨论主要集中在大型语言模型和生成式 AI 上，而你和我在书中也讨论了实际应用的重要性，包括 Optimus 和特斯拉 FSD（全自动驾驶）。你认为 x.ai 在实际应用的 AI 中扮演着怎样的角色，与 OpenAI 所做的有何区别？而且你通过实现 FSD 而在某种程度上占据了优势，对吗？ Elon Musk 没错。特斯拉在实际应用的 AI 方面是领先者，我认为领先的优势相当大。实际上，特斯拉在实际应用的 AI 方面的进展程度并不被人们充分了解。是的。由于我与特斯拉的 AI 团队花了很多时间，所以我比较了解实际应用的 AI 是如何实现的。与特斯拉进行合作可以带来很多好处。 我认为双向合作都可以让 x.ai 对特斯拉有所帮助，反之亦然。我们也有一些合作关系，比如我们的材料科学团队，我认为可能是世界上最好的团队之一，实际上是特斯拉和 SpaceX 共享的。这对于招募世界上最好的工程师非常有帮助，因为在先进的电动汽车和火箭上工作会更有趣，而不仅仅是其中之一。 我认为这是非常重要的一件事。在特斯拉，我们获得了一些非常重要的见解，努力理解实际应用的 AI ,我们将视频输入转化为向量空间，最终输出方向盘和踏板控制，还有 Optimus。 Elon Musk 在那之后，我们仍然处于早期阶段。但是 Optimus，我们绝对需要非常小心，一旦 Optimus 规模化投入生产，必须有一种硬编码的方法来关闭 Optimus，这是显而易见的。所以我们会确保 Optimus 很容易被关闭。这非常非常重要。因为至少车子是智能的，至少它可以爬树或者上楼梯，但是 Optimus 可以跟着你进楼里。所以我们对于安全性必须非常小心，任何可以跟随人进入建筑物的机器人都是智能的且联网的。 AI 的影响力与民主化 Kyle Kosic 我想谈一下 AI 的影响力，作为一种手段，它如何为各行各业的人类提供平等的机会，以及民主化的重要性，这与我们的使命陈述相关。如果你想想人类的历史，以及对信息的获取，印刷术出现之前，人们很难获得新形式的知识。能够为人们提供这种沟通水平在财富和机会不平等方面具有巨大的降低作用。 我们真的处在一个社会发展的新的转折点上，我们要让每个人都有同样的潜力获得伟大的成果，无论你在生活中处于什么位置。当我们谈论去除思想的垄断，并控制这种技术不受付费订阅服务的限制，甚至更糟的是受到可能随之而来的资本提供模型的政治审查的控制，我们真的是在谈论将人们的机会民主化，不仅仅是改善他们的生活状况，而且是以前所未有的方式提升他们在世界上的社会地位。 所以，当我们谈论真实性的重要性，以及能够可靠地信任这些模型，从中学习并取得科学和社会进步时，我们真的是在谈论改善人们的生活质量，改善每个人的生活，而不仅仅是硅谷顶级科技人员能够接触到它。这真的是要让每个人都能够获得这种机会。我认为这是我们整个团队共同分享的使命。 Igor Babuschkin Elon ，最后一个问题。假设 x.ai 在构建出人类级别甚至超越人类级别的 AI 方面取得成功，你认为让公众参与公司的决策是否合理？你对此的长期发展有何看法？ Elon Musk 对于一切，我认为我们非常愿意接受批评性的反馈，并且我们应该被批评。那是一件好事。实际上，我喜欢 Twitter 这种东西的其中一个原因就是， Twitter 上有很多负面反馈，对于自我压缩是有帮助的。 所以，我现在能想到的最好的事情是，任何一个想要对 AI 的未来发表意见的人最终都不应该被允许这样做，基本上人类只要你能验证自己是真正的人类，那么任何希望在实际上的未来发表意见的人都应该被允许拥有选票，是的，也许需要支付一些象征性的费用，比如10美元之类的，我不知道，10美元并且证明你是人类。然后你就可以投票了，你知道吗？ 对于任何感兴趣的人来说，这是我现在至少能想到的最好的事情。好了，很酷，在这个问题上参与进来，我们将随时向你告知我们取得的任何进展，我期待很多优秀的人加入团队。 源地址：https://twitter.com/i/spaces/1vAGRAAmdoqKl?s=20 翻译：公众号 有新Newin 有新Newin 源地址：https://twitter.com/i/spaces/1vAGRAAmdoqKl?s=20 翻译：公众号 有新Newin 有新Newin 7月15日，马斯克在 Twitter Spaces 上完成了 xAI 首场且公开的动员大会，xAI 包括麦斯克在内的 12 位成员，其中华人占1/3，包括吴宇怀（Yuhuai Tony Wu）、杨格（Greg Yang ）、张国栋（Guodong Zhang）以及戴自航（Zihang Dai）。 根据马斯克在 Twitter Space 直播讨论的，xAI 的总体目标是构建一个优秀的 AGI ，并以理解宇宙的真实本质为愿景，马斯克从物理学的视角探讨了一些关于宇宙的未解之谜，例如外星人的存在和重力的本质等。 xAI 的团队成员们也在会议中提到，目前行业中的 AI 模型只是简单地模仿它们所训练的数据，而他们真正想做的是改变这种模式，他们希望让模型能够发现真相，不仅仅是重复它们从训练数据中学到的知识，而是能够提供真正的新见解和新发现。 此外，马斯克也在会上明确表示，xAI 是 OpenAI、谷歌等公司的竞争对手，并指出 OpenAI 现在已经变得封闭且非常追求利润，与其最初的宗旨背道而驰。 这场直播会议的全部内容按时间顺序整理成了以下 12 个话题： • xAI 创始成员的开场自述 • xAI 的使命：宇宙本质与智能体 • AGI 与个人计算资源 • Twitter 数据与 xAI 的关系 • 创办 xAI 的初衷是什么？ • 特斯拉Dojo，芯片以及训练推理 • 如何保证 xAI 的独立性？ • xAI 如何造福人类？ • 真正的AI能理解物理世界 • 监管应与技术发展并行 • xAI 会如何与外部合作？ • xAI 与OpenAI 差异，以及 Optimus • AI 的影响力与民主化 大家 enjoy 👻 ～ 1. xAI 创始成员的开场自述 Elon Musk 我会介绍一下公司，然后创始团队将简要介绍一下他们的背景和他们所做的工作，无论他们想谈论什么，我们真的很希望能从他们口中听到自己的话。我认为听到他们亲自说出来的各种工作经验和他们对AI的期望对我们很有帮助。 我认为 x.ai 的总体目标是建立一个好的 AGI，总体目标就是努力理解宇宙。我认为构建一个最安全的 AI 的方法实际上是制造一个最大程度好奇和寻求真理的 AI，所以你要追求真理，并承认错误，尽管它永远无法完全达到真理？这并不清楚，但你总是要追求那个目标，尽量减小你所知道的、你认为是真理的东西与实际真理之间的误差。 我关于最大程度好奇和最大程度真实性背后的理论是，我认为对于一个超级智能来说，人类比其他东西更有趣。你知道，我们可以看看太阳系中的各种行星、卫星和小行星，可能把它们都放在一起都不如人类有趣。 众所周知，我是火星的超级粉丝，我其中一个孩子的名字基本上是火星的希腊词，但是火星比有人类居住的地球要无聊得多，所以我认为这种成长 AI 的方式，我认为"成长"这个词用在 AI 上是正确的，就是带着这种雄心成长。 我花了很多年时间思考 AI 安全性并担心 AI 安全性。我一直是呼吁对 AI 进行监管或监督的最坚定的声音之一，不仅仅是让公司自行决定他们想做什么。我认为通过行业合作还有很多事情要做，有点像电影协会那样。 我确实认为在任何情况下都应该有一些规则，即使是游戏也需要裁判，有监管是很重要的，我对安全的看法是尽量使它具有好奇心和寻求真理的最大程度，这很重要，可以避免逆向道德问题，如果你试图为其编程道德，你可能会导致相反的结果，有时候被称为"Wild Luigi problem"，我认为这是一个很多人可以理解的比喻，我们要努力做到这一点。 Igor Babuschkin 好的，大家好，我叫Igor。我是 x.ai 团队的成员之一。我原来是一名物理学家。所以我在大学学习物理，并且曾在CERN的大型强子对撞机工作过一段时间。因此，理解宇宙一直是我非常热衷的事情。当深度学习的一些非常引人注目的成果出现时，比如 AlphaGo ，我对机器学习和 AI 产生了浓厚的兴趣，并决定转向这个领域。 然后，我加入了DeepMind，参与了各种项目，包括AlphaStar。我们尝试通过自我对弈教会机器学习代理在《星际争霸2》游戏中进行对战，这是一个非常有趣的项目。然后我加入了OpenAI，也在那里工作过，包括GPT 3.5等各种项目。所以我对语言模型非常热衷，让它们做出令人印象深刻的事情。是的，现在我和伊隆合作，看看我们是否可以将这些新技术应用于真正改变我们对宇宙的理解，并推进我们的共同知识。 Elon Musk 是的，实际上，我也有类似的背景，我的两门最好的科目是计算机科学和物理学。我实际上曾经考虑过从事物理学的职业。因为物理学实际上只是试图理解宇宙的基本真理。 我真的很担心我会陷入某个对撞机的困境。然后对撞机可能会因为某种任意的政府决定而被取消。所以这实际上是我决定不从事物理学职业的原因。所以我最初更专注于计算机科学，然后，显然，后来又回到了与太空探索和特斯拉有关的物理对象。所以我坚信追求物理学和信息理论是真正帮助你理解现实本质的两个领域。 Manuel Kroiss 嗨，大家好，我是Manuel。在加入xai之前，我在DeepMind工作了六年，主要在强化学习团队工作。我主要专注于构建大型强化学习代理的工程方面，例如AlphaStar。和伊戈尔一起合作。总的来说，我对 AI 已经充满了激情很长时间了。 对我来说，它有潜力成为解决最困难问题的终极工具。所以我最初学习的是生物信息学，但后来我对 AI 也变得更加兴奋。因为如果你有一个可以解决所有问题的工具，对我来说，这就更加令人兴奋。而且对于 x.ai 来说，我特别激动的是以一种我们能够为人类建造AI，并与每个人分享的方式来解决问题，这样人们就可以进行自己的研究和理解事物。我希望它能像一股新的研究者浪潮一样，这以前是不存在的。 Christian Szegedy 我是Christian Szegedy。我想稍微谈谈数学在理解宇宙中的作用。所以过去的七年中，我一直致力于创造一种在数学上能与任何人类一样出色的 AI 。我认为这样做的原因是，即使数学是语言，基本上是纯逻辑的语言，我认为高层次的数学和逻辑推理将证明这个思想真正理解事物，而不仅仅是模拟人类。它对编程和物理学的长期发展将起到重要的作用。所以我认为，一旦AI开始展示出真正理解深层推理的能力，对我们第一步理解宇宙至关重要。 Yuhuai (Tony) Wu 大家好，我是Tony。和Christian一样，我一直梦想着用 AI 来解决数学中最困难的问题。这就是为什么我们成为了这么酷的朋友和长期合作伙伴的原因。所以实现这个目标绝对是一个非常雄心勃勃的目标。 去年，我们在这个领域取得了一些非常有趣的突破，这让我们真的相信我们离我们的梦想并不远。所以我相信，凭借这样一个才华横溢的团队和丰富的资源，我非常有希望我们能够实现这个目标。 大家好，我是Tony。和Christian一样，我一直梦想着用 AI 来解决数学中最困难的问题。这就是为什么我们成为了这么酷的朋友和长期合作伙伴的原因。所以实现这个目标绝对是一个非常雄心勃勃的目标。 去年，我们在这个领域取得了一些非常有趣的突破，这让我们真的相信我们离我们的梦想并不远。所以我相信，凭借这样一个才华横溢的团队和丰富的资源，我非常有希望我们能够实现这个目标。 大家好，我是Tony。和Christian一样，我一直梦想着用 AI 来解决数学中最困难的问题。这就是为什么我们成为了这么酷的朋友和长期合作伙伴的原因。所以实现这个目标绝对是一个非常雄心勃勃的目标。 去年，我们在这个领域取得了一些非常有趣的突破，这让我们真的相信我们离我们的梦想并不远。所以我相信，凭借这样一个才华横溢的团队和丰富的资源，我非常有希望我们能够实现这个目标。 Elon Musk 我来提一下，我认为通常人们不太愿意自我推销。但我认为这里的人应该讲一讲，你们做过哪些值得注意的事情？所以基本上就是稍微介绍一下。 Yuhuai (Tony) Wu 好的，我可以再多说一下。去年，我认为我们在数学领域取得了一些非常有趣的进展。具体来说，我们与Google的一个团队合作，开发了一个名为M