万字赏析 DeepSeek 创造之美：DeepSeek R1 是怎样炼成的？

万字赏析 DeepSeek 创造之美：DeepSeek R1 是怎样炼成的？ 万字赏析 DeepSeek 创造之美：DeepSeek R1 是怎样炼成的？ Modified November 26, 2025 首先，我认为 R1 突破的基础是真正的实力。 它的性能确实非常强大，不需要过多的解释，用过的人都知道。懂的都懂。 其次，它解决了困扰整个行业的难题。大家都在为 PRM、MCTS 各种卷、各种失败、各种苦恼，它跳出来说不用这么痛苦。 第三，当你读到 R1 的研究时，你会惊讶于它的创新，想不到居然可以这么做，结果越读越发现，背后还有 V3，哈哈哈，原来如此。 第四，它把任何研究员想验证的方向都做了一遍。R1 在研究过程中不仅提升了自己，还通过高质量的 CoT 训练你们的模型也可以很牛逼。我还告诉你不要妄想简单地复制我，如果你的 base model 不行你也搞不定。 如果你是研究人员或者大模型公司，你会觉得这东西想我所想，急我所急。 它还彻底开源，且有适用于 C 端的产品。所有 这些因素共同奠定了 R1 破圈 的基础，这是真真正正 的实力。 R1 的未来发展也给全球 AI 行业 2025 开了个好局。 首先，他们通过蒸馏实验证明了高质量的 reasoning CoT 能够激发现有模型的能力。这么简单的事情，这个其实并不复杂，很多现有的工作只需要重新做一遍就能立马得到提升。 第二，R1 只是证明了「左脚踩右脚」的可行性，这是他们的第一个创新。大家可以回想以往所有范式级的创新，像 o1 到 o3 的进化，R1 的团队也许在未来几个月到半年内，在 RL 领域会有更多的突破。 第三，全球 Infra 终于有事干了。AI Infra 之前一直没火起来，很大程度上是因为大家找不到值得部署的模型。大家想想如果 OpenAI 开源，全球 AI Infra 不是这个样子。最近 AI Infra 都特别厉害。 第四，虽然 R1 尝试了 RL，但他们还没有进行可控的 inference time scaling。 大家可以看到 o3，虽然取名方式「很挫」，想更多，想一般，想少点。 R1 还没做，做了这个之后性能提升是可以预期的。 最后，关于「long2short」的概念，我觉得这非常有趣。我们不要把推理过程看成是模型的旁路思考，它本身就是 Next Token Prediction 的一部分，而且这个过程不一定越长越好。现在有些地方推理显得很长，实际上恰恰是训练效率还不够高的体现。 k1.5 里对这块的探索会更多。 未来，long2short 的推理过程会更加高效，很快想到一个该想的地方。 当然，我也问 Peak： 「 那会不会有一天，短到没有推理呢？ 」 他回答说这不太可能，因为模型本身还是需要更多 token 来思考。因此，未来推理的压缩会达到极限，但不会完全消失。o3 mini 正是探索这个过程。这些可能会在未来的模型中实现，而 R1 正是走在这条路上。 讲到这里，希望大家还记得我的本职工作是做产品的。今天我也想分享一下 R1 在产品思路上的启发。 首先，R1 能取得今天的成就，很重要的一点是它抓住了一个绝妙的时间差。当 o1 发布时，全球能使用 o1 的人非常少，因为 o1 是付费的，且价格不低。而 DeepSeek 选择免费开放，让所有人都能直接使用。这意味着，很多人第一次接触推理模型时使用的不是 ChatGPT 的 o1，而是 DeepSeek 的 R1，这让人从 0 到 1 的体验非常震撼。 另外，对于用过 o1 的用户来说，o1 当时并不支持搜索功能。对于这些用户来说，使用 DeepSeek R1 时，他也会觉得非常爽，因为它将运行和搜索功能结合起来，整个使用场景又扩展了。可以说，DeepSeek R1 的发布时间点正好抓住了一个非常巧妙的时间差。 对于所有用户来说，R1 都是一次全新的体验，都是一个从 0 到 1 的过程。 每个用户在使用之后都会成为它的忠实用户，都是「自来水」。这也是为什么在那个过程中，我特别不屑于那些人的表达，说「中国水军」之类的。我当时就想，天啊，你真的去看看 Twitter 上真实的美国用户反馈，他们的截图和使用场景都非常实在，这绝不是通过水军能搞定的，而是有着极高的产品价值，用户通过脚投票来表达他们的真实感受。在这持续半个月的 hype 中，除了媒体外，用户的真实表达其实非常真诚和有力。 同时，这也给我带来一个很大的启示：ChatGPT 并不是终点。很多人觉得 OpenAI 做得那么好，ChatGPT 已经那么厉害，怎么可能被超越？我在过去一年半的 AI 工作中，反复强调这一点。 现在，AI 的渗透率仅有 5%。剩下的 95% 的人，他们用的第一款 AI 应用是什么呢？ 很多人不敢去想这个问题，很多人认为 ChatGPT 就是天花板，怎么追上它？但 DeepSeek R1 的出现告诉我们，其实可以绕开 ChatGPT，完全打开一个新的市场。ChatGPT 只接触了地球上的 5% 的人，我完全可以去瞄准另外的 5% 或 10% 的人群，让他们用第一款 AI，是什么呢？ 现在是推理模型，我相信这个领域会持续扩展，很多领域都会像去年那样发生类似的变化。 比如说 Sora hype 了一年，但真实的成果被可灵、海螺摘了，这些都是相似的故事。所以，不要觉得一个领域的竞争已经结束，任何时候上车都不迟。 第三点是，R1 + Search 之所以那么火，根本原因是因为它本质上是一个非常简单的 Agent Framework。R1 的推理模型再怎么厉害，它依然只能停留在自己的脑内脑补，无法了解外部世界。 当它加上 Search 后，获得了外部世界的观察，才真正让 R1 + Search 的体验变得独特。这也是很多人，包括我们的同行，在观察 R1 时忽视的要点。大家会认为 R1 因为是推理模型所以很厉害，自己公司没有推理模型，所以产品就做不起来。但如果没有 Search 的功能，R1 在全球产生的影响可能会大不相同，因为有无 Search 是本质的区别。 我们可以进而思考： 如果 R1 已经开源了，并且加了 Search，那它为什么不可以加更多东西呢？ 是不是 R1 + Search，只是起点，加入更多外部 Observation 后，模型的表现可能会有不一样的效果。至于具体会是什么样的效果，这可能需要行业一起探索，但我觉得这给产品设计带来了许多启发。 最后一个环节，就是我本来想说「回应」流言，但我不是 DeepSeek。我没法回应，那我就「怒呛」下。第一个就是所谓的「满血版 R1」。这首先是美国某些公司开了个坏头。比如 Groq，大家知道 Groq 是做硬件架构来加速语言模型推理的公司。 R1 出来后，Groq 的 CEO 很快就在 Twitter 上发文，说他们的 DeepSeek R1 推理速度比官方推理快很多倍。我当时想，这 Groq 的架构应该不够灵活吧？而且理论上说，他们的硬件架构应该是和 Llama 绑定比较死的，怎么能支持这么大尺寸的 MoE 呢？我还挺好奇的，结果仔细研究后才发现，Groq 实际上部署的是一个 DeepSeek R1 Distill Llama 70B 版本。 真的难以想象一个公司 CEO 会做这种事。从那以后，很多平台开始散布类似的故事，有人上了千问 32B 的模型，也说自己上了 R1。很多人就觉得效果不好，就有人回复说你没用「满血版」。 其实 R1 并没有「满血版」，R1 始终只有一个版本， 就是 R1，其他的 Distill 版本不是 R1。真正的 R1 和 Distill 有巨大的差别。 第二个谣言是经典的「600 万训练成本」。我之前反复跟很多人解释过这个问题。我们可以看一下 V3 里面的内容，他们提到一共用了 278.8 万个 H800 小时。 如果按照 H800 一个小时租金两美元来算，这个价格现在有些偏高，但根据他们给出的数据，V3 的单次训练成本大概是 557 万美元。他们还在下面特别强调，这个训练成本只包括最后一轮训练。因为他们的工程设计非常巧妙、稳定，所以只用一次就跑通了，没有出现大规模的训练崩溃。 至于这个 600 万的估算，没有包括之前的研究，消融实验，架构探索，算法探索和数据准备等。行业通常只计算单次的训练成本，在学术和产业界是非常常见的表达。这个成本也无法掩盖，因为模型参数量就摆在那里，训练的 token 数量是 17.6T，懂行的人只要看这个模型的规模和数据集大小，大概就能推算出它的训练成本。 DeepSeek 这个表达本身没有任何问题，而且他们在自己的文章里也明确指出了不包含哪些费用。站在 DeepSeek 本身的角度来看，他们没有做任何作假的事。 完全是这次破圈传播速度太快，覆盖范围太广。大量非行业媒体和 KOL 的参与，往往会带来流量话题，而这些话题的核心却离不开「钱」、「人」、「地缘政治冲突」。找流量话题最容易的方式就是煽动这些情绪，导致很多人就集中讨论了 600 万的训练成本，开始制造 hype，到最后已经没有办法理性讨论了。 另外，关于 Alexandr Wang 提到的 5 万张 H100。 但事实上上面是 SemiAnalysis，这个结果是比较公允的。上图左下角是 2022 年 10 月 7 日，美国第一次禁运，那时候 H800 可以买的。 2025 年 1 月 13 日，第二次禁运之后，H800 也进入了限制范围。对于 DeepSeek 来说，他们的 H800 合规购买是在 1 月 13 号之前完成的。这个数据（1 万张 A100 版、1 万张 H100 和 1 万张 H800）是比较符合实际情况的，后面只能购买合规的 H20 卡。 回到刚才提到的 V3，我们讨论了很多工程优化和奇技淫巧。如果他们真有这么多 H100，就完全没有必要做这些优化。 另外，关于小红书、抖音上流传的 9 块 9 付费本地部署，我想大家听完今天的分享应该明白，除非你家里有矿，拥有 8 张 A100，否则本地部署几乎不可能实现。许多宣传所谓「本地部署」的其实只是蒸馏的模型，像千问 1.5B、7B 或者 32B 的模型。很多电脑跑不动 32B，可能只是 7B 的蒸馏版。对于本地部署，我本来非常反对，觉得这是欺骗，但后来我想了想，也许这是一个机会，让很多人学会了如何在自己的电脑上跑 LLM，也许也是一个蛮不错的事情。 再说一下蒸馏和偷窃。我本来准备了长篇大论，尤其是如果说是蒸馏，举证责任应该在对方，不应该由我来回应。我不是专业人士，不能代表 OpenAI 或者 DeepSeek，做回应挺无力的。 首先，我认为 R1 突破的基础是真正的实力。 它的性能确实非常强大，不需要过多的解释，用过的人都知道。懂的都懂。 其次，它解决了困扰整个行业的难题。大家都在为 PRM、MCTS 各种卷、各种失败、各种苦恼，它跳出来说不用这么痛苦。 第三，当你读到 R1 的研究时，你会惊讶于它的创新，想不到居然可以这么做，结果越读越发现，背后还有 V3，哈哈哈，原来如此。 第四，它把任何研究员想验证的方向都做了一遍。R1 在研究过程中不仅提升了自己，还通过高质量的 CoT 训练你们的模型也可以很牛逼。我还告诉你不要妄想简单地复制我，如果你的 base model 不行你也搞不定。 如果你是研究人员或者大模型公司，你会觉得这东西想我所想，急我所急。 它还彻底开源，且有适用于 C 端的产品。所有 这些因素共同奠定了 R1 破圈 的基础，这是真真正正 的实力。 R1 的未来发展也给全球 AI 行业 2025 开了个好局。 首先，他们通过蒸馏实验证明了高质量的 reasoning CoT 能够激发现有模型的能力。这么简单的事情，这个其实并不复杂，很多现有的工作只需要重新做一遍就能立马得到提升。 第二，R1 只是证明了「左脚踩右脚」的可行性，这是他们的第一个创新。大家可以回想以往所有范式级的创新，像 o1 到 o3 的进化，R1 的团队也许在未来几个月到半年内，在 RL 领域会有更多的突破。 第三，全球 Infra 终于有事干了。AI Infra 之前一直没火起来，很大程度上是因为大家找不到值得部署的模型。大家想想如果 OpenAI 开源，全球 AI Infra 不是这个样子。最近 AI Infra 都特别厉害。 第四，虽然 R1 尝试了 RL，但他们还没有进行可控的 inference time scaling。 大家可以看到 o3，虽然取名方式「很挫」，想更多，想一般，想少点。 R1 还没做，做了这个之后性能提升是可以预期的。 最后，关于「long2short」的概念，我觉得这非常有趣。我们不要把推理过程看成是模型的旁路思考，它本身就是 Next Token Prediction 的一部分，而且这个过程不一定越长越好。现在有些地方推理显得很长，实际上恰恰是训练效率还不够高的体现。 k1.5 里对这块的探索会更多。 未来，long2short 的推理过程会更加高效，很快想到一个该想的地方。 当然，我也问 Peak： 「 那会不会有一天，短到没有推理呢？ 」 他回答说这不太可能，因为模型本身还是需要更多 token 来思考。因此，未来推理的压缩会达到极限，但不会完全消失。o3 mini 正是探索这个过程。这些可能会在未来的模型中实现，而 R1 正是走在这条路上。 讲到这里，希望大家还记得我的本职工作是做产品的。今天我也想分享一下 R1 在产品思路上的启发。 首先，R1 能取得今天的成就，很重要的一点是它抓住了一个绝妙的时间差。当 o1 发布时，全球能使用 o1 的人非常少，因为 o1 是付费的，且价格不低。而 DeepSeek 选择免费开放，让所有人都能直接使用。这意味着，很多人第一次接触推理模型时使用的不是 ChatGPT 的 o1，而是 DeepSeek 的 R1，这让人从 0 到 1 的体验非常震撼。 另外，对于用过 o1 的用户来说，o1 当时并不支持搜索功能。对于这些用户来说，使用 DeepSeek R1 时，他也会觉得非常爽，因为它将运行和搜索功能结合起来，整个使用场景又扩展了。可以说，DeepSeek R1 的发布时间点正好抓住了一个非常巧妙的时间差。 对于所有用户来说，R1 都是一次全新的体验，都是一个从 0 到 1 的过程。 每个用户在使用之后都会成为它的忠实用户，都是「自来水」。这也是为什么在那个过程中，我特别不屑于那些人的表达，说「中国水军」之类的。我当时就想，天啊，你真的去看看 Twitter 上真实的美国用户反馈，他们的截图和使用场景都非常实在，这绝不是通过水军能搞定的，而是有着极高的产品价值，用户通过脚投票来表达他们的真实感受。在这持续半个月的 hype 中，除了媒体外，用户的真实表达其实非常真诚和有力。 同时，这也给我带来一个很大的启示：ChatGPT 并不是终点。很多人觉得 OpenAI 做得那么好，ChatGPT 已经那么厉害，怎么可能被超越？我在过去一年半的 AI 工作中，反复强调这一点。 现在，AI 的渗透率仅有 5%。剩下的 95% 的人，他们用的第一款 AI 应用是什么呢？ 很多人不敢去想这个问题，很多人认为 ChatGPT 就是天花板，怎么追上它？但 DeepSeek R1 的出现告诉我们，其实可以绕开 ChatGPT，完全打开一个新的市场。ChatGPT 只接触了地球上的 5% 的人，我完全可以去瞄准另外的 5% 或 10% 的人群，让他们用第一款 AI，是什么呢？ 现在是推理模型，我相信这个领域会持续扩展，很多领域都会像去年那样发生类似的变化。 比如说 Sora hype 了一年，但真实的成果被可灵、海螺摘了，这些都是相似的故事。所以，不要觉得一个领域的竞争已经结束，任何时候上车都不迟。 第三点是，R1 + Search 之所以那么火，根本原因是因为它本质上是一个非常简单的 Agent Framework。R1 的推理模型再怎么厉害，它依然只能停留在自己的脑内脑补，无法了解外部世界。 当它加上 Search 后，获得了外部世界的观察，才真正让 R1 + Search 的体验变得独特。这也是很多人，包括我们的同行，在观察 R1 时忽视的要点。大家会认为 R1 因为是推理模型所以很厉害，自己公司没有推理模型，所以产品就做不起来。但如果没有 Search 的功能，R1 在全球产生的影响可能会大不相同，因为有无 Search 是本质的区别。 我们可以进而思考： 如果 R1 已经开源了，并且加了 Search，那它为什么不可以加更多东西呢？ 是不是 R1 + Search，只是起点，加入更多外部 Observation 后，模型的表现可能会有不一样的效果。至于具体会是什么样的效果，这可能需要行业一起探索，但我觉得这给产品设计带来了许多启发。 最后一个环节，就是我本来想说「回应」流言，但我不是 DeepSeek。我没法回应，那我就「怒呛」下。第一个就是所谓的「满血版 R1」。这首先是美国某些公司开了个坏头。比如 Groq，大家知道 Groq 是做硬件架构来加速语言模型推理的公司。 R1 出来后，Groq 的 CEO 很快就在 Twitter 上发文，说他们的 DeepSeek R1 推理速度比官方推理快很多倍。我当时想，这 Groq 的架构应该不够灵活吧？而且理论上说，他们的硬件架构应该是和 Llama 绑定比较死的，怎么能支持这么大尺寸的 MoE 呢？我还挺好奇的，结果仔细研究后才发现，Groq 实际上部署的是一个 DeepSeek R1 Distill Llama 70B 版本。 真的难以想象一个公司 CEO 会做这种事。从那以后，很多平台开始散布类似的故事，有人上了千问 32B 的模型，也说自己上了 R1。很多人就觉得效果不好，就有人回复说你没用「满血版」。 其实 R1 并没有「满血版」，R1 始终只有一个版本， 就是 R1，其他的 Distill 版本不是 R1。真正的 R1 和 Distill 有巨大的差别。 第二个谣言是经典的「600 万训练成本」。我之前反复跟很多人解释过这个问题。我们可以看一下 V3 里面的内容，他们提到一共用了 278.8 万个 H800 小时。 如果按照 H800 一个小时租金两美元来算，这个价格现在有些偏高，但根据他们给出的数据，V3 的单次训练成本大概是 557 万美元。他们还在下面特别强调，这个训练成本只包括最后一轮训练。因为他们的工程设计非常巧妙、稳定，所以只用一次就跑通了，没有出现大规模的训练崩溃。 至于这个 600 万的估算，没有包括之前的研究，消融实验，架构探索，算法探索和数据准备等。行业通常只计算单次的训练成本，在学术和产业界是非常常见的表达。这个成本也无法掩盖，因为模型参数量就摆在那里，训练的 token 数量是 17.6T，懂行的人只要看这个模型的规模和数据集大小，大概就能推算出它的训练成本。 DeepSeek 这个表达本身没有任何问题，而且他们在自己的文章里也明确指出了不包含哪些费用。站在 DeepSeek 本身的角度来看，他们没有做任何作假的事。 完全是这次破圈传播速度太快，覆盖范围太广。大量非行业媒体和 KOL 的参与，往往会带来流量话题，而这些话题的核心却离不开「钱」、「人」、「地缘政治冲突」。找流量话题最容易的方式就是煽动这些情绪，导致很多人就集中讨论了 600 万的训练成本，开始制造 hype，到最后已经没有办法理性讨论了。 另外，关于 Alexandr Wang 提到的 5 万张 H100。 但事实上上面是 SemiAnalysis，这个结果是比较公允的。上图左下角是 2022 年 10 月 7 日，美国第一次禁运，那时候 H800 可以买的。 2025 年 1 月 13 日，第二次禁运之后，H800 也进入了限制范围。对于 DeepSeek 来说，他们的 H800 合规购买是在 1 月 13 号之前完成的。这个数据（1 万张 A100 版、1 万张 H100 和 1 万张 H800）是比较符合实际情况的，后面只能购买合规的 H20 卡。 回到刚才提到的 V3，我们讨论了很多工程优化和奇技淫巧。如果他们真有这么多 H100，就完全没有必要做这些优化。 另外，关于小红书、抖音上流传的 9 块 9 付费本地部署，我想大家听完今天的分享应该明白，除非你家里有矿，拥有 8 张 A100，否则本地部署几乎不可能实现。许多宣传所谓「本地部署」的其实只是蒸馏的模型，像千问 1.5B、7B 或者 32B 的模型。很多电脑跑不动 32B，可能只是 7B 的蒸馏版。对于本地部署，我本来非常反对，觉得这是欺骗，但后来我想了想，也许这是一个机会，让很多人学会了如何在自己的电脑上跑 LLM，也许也是一个蛮不错的事情。 再说一下蒸馏和偷窃。我本来准备了长篇大论，尤其是如果说是蒸馏，举证责任应该在对方，不应该由我来回应。我不是专业人士，不能代表 OpenAI 或者 DeepSeek，做回应挺无力的。 直到昨天我在研究 V3 时，看到一个意外的发现。大家还记得 12 月 26 号 Andrej Karpathy 转发了 V3 的论文吗？在他转发的 Twitter 下，有一个美国老哥跳出来说，我用了这个模型，这个模型说自己是 ChatGPT，并且发了截图。 结果 Andrej Karpathy 自己回应了这个问题，他说：我们根本没必要做这种事情，问一个模型它是谁没有意义。 当你问模型「你是谁」时，你就陷入了「过度拟人化」的陷阱。 非从业人士往往会把 ChatGPT 看得太聪明，觉得它有自己的意识，知道自己是谁。但实际上，所有的模型，无论是预训练模型还是其他模型，根本没有「我是谁」这个概念。它们所回答的「我是 ChatGPT」或者「我是 OpenAI」，都是我们设计的数据训练模型时告诉它的回答方式。 因为在 DeepSeek 训练 V3 时，世界上已经有很多包含「ChatGPT」这个关键词的数据，因此当模型被问到「你是谁」时，它会给出「ChatGPT」这种回答。从概率分布上讲，你应该挑最大概率的回答。 这个问题并非不可解决。所有的模型在预训练后，在后期的对齐训练中，会进行自我认知的调整。如果 DeepSeek 想做这个调整，完全可以通过不断对齐数据，教模型在被问到「你是谁」时回答：「我是 DeepSeek 大模型，我是 DeepSeek V3。」 我对这个问题的看法是，AK 的回应已经很好了。如果以后还有人拿截图说某个模型是 OpenAI，你只需要把 AK 的回应丢给他就行了，AK 的观点比谁都更有说服力。 在巨大的创新面前，一切跳梁小丑看他们都很滑稽。噪音会随着时间逐渐消减。 但是我相信像 DeepSeek 的 V2、V3 和 R1 这样的论文肯定会持续产生影响。那种创造的美，你只要去体会它、理解它，你一定能感受到的。它非常非常地美。 正如我们去年学习 Stable Diffusion 时，那些 论文都很老了，但现在回头看，仍然觉得它们非常地美。 今天的分享就到这里，谢谢大家！ 推荐阅读 🔗 原文链接： https://mp.weixin.qq.com/s/HB38prEM... https://mp.weixin.qq.com/s/HB38prEM... ⏰ 发布时间：2025年02月13日 15:58(UTC+8) 作者：真格基金 大家好，我是 Monica.im 的产品合伙人张涛。 相信大家和我一样，整个春节期间几乎都在抱着手机刷信息。白天看国内的反应，晚上看美国的反应。整个春节就这样度过了。春节后这一周，大家已经在各种微信公众号和其他平台上刷了大量关于 R1 的分析文章，从技术到产品、再到长远影响的探讨，很多群也在转发聊天记录，有关于 R1 的十几篇必读文章。 我和雨森（真格基金管理合伙人）商量说来做这个分享时，就明白很多信息可能会过时。既然我们这么多人在这里，如果仍然讲一些比较常见或者宏观的信息，是浪费大家的时间。 这一周我在准备过程中，一方面让我司首席科学家 Peak 帮我审查了很多技术和算法方面的细节。另一方面，在整合各方信息时，我发现了一个特别有趣的叙事角度。 今天的分享，既是为了让大家更好地理解 R1 背后的脉络，也是希望大家看到这次精彩冒险背后一个美妙的故事。 好了，今天的分享正式开始。 01 最好的致敬是学习 今年春节，我在上海过年，没有回重庆，就通过视频给爸妈拜年。我给我妈说新年快乐时，听到我爸在旁边喊道：「你快问一下张涛，那个梁文锋是不是真的那么牛逼啊？」 今年的 DeepSeek 和 R1 话题真的是破圈的程度非常高，甚至像重庆这样的二线城市的老头老太太们都在关注这些话题，且真心关心它背后的原理到底是什么。 首先我们回顾一下这些发生的事情，理清时间线，确保大家对这个事情有共同的认知。 去年 11 月 20 日，DeepSeek 在官方 Twitter 上发布了 R1 Lite Preview。当时发布的 R1 Lite Preview，实话说，离现在的影响力连 1% 都谈不上，可能只有万分之一。只有去年 11 月 o1 发布后，有一些人试图复现 o1，这时他们可能对这个 R1 Lite Preview 感兴趣，甚至有人基于它进行一些蒸馏和 SFT 的工作。但这些工作在学术界内部并未出圈。 接着到 12 月 26 日，发布了 DeepSeek V3。相比 R1 Lite Preview，它的影响力就更大了一些。稍后我会举一个例子证明，至少在学术界，它是有出圈的。 第三个时间点是 1 月 15 日，DeepSeek 发布了他们的 APP。当时如果大家仔细看，会发现 15 号发布的 APP 中，已经有了 DeepThink 模式。 但是 DeepThink 这个模式一直无人在意，国内没有，国外也没有。如果大家能回到 15 号的语境下，其实可以理解为什么。当时不仅是美国，包括我们在内，大家关注的新闻基本只有一个——特朗普即将登基。公众的注意力还更多集中在这些政治事件上。 直到 20 号，R1 才正式发布，一方面是相关论文公开，另一方面是模型权重的开源。 从时间线来看，R1 最早的苗头实际上在去年 11 月份就已经出现，并非一夜之间爆发的。 在这个过程中，还有几个关键节点需要关注，包括 V3 的重要性——这是我们今天讨论的核心话题之一。 接下来，我给大家看一个有趣的现象。在 Google 上搜索 DeepSeek 这个关键词，可以看到其关注度的起点是在 1 月 20 号，也就是 R1 发布之后。随着学术界开始小范围讨论，20 号到 24 号、27 号之间热度逐渐升温，直到 27 号，英伟达及一众美国 AI 概念股「砸出巨坑」，DeepSeek 的搜索量也随之达到顶峰。即使热度在一周后有所回落，相比 20 号之前接近 0% 的状态，现在仍然维持在 20% 左右。这说明，尽管流量有所回调，但关注度并未完全消退。 接下来是一个有趣的话题，不知道大家能不能猜到： 在美国，按行政区域划分，哪个地区对 DeepSeek 关注度最高？ 我当时在看数据时觉得非常有意思。本以为会是加州，毕竟 AI 相关研究人员主要集中在那里，但实际上，最高关注度出现在华盛顿特区。可以想象，在 27 号市场震荡后，华盛顿的一众政客疯狂在 Google 上搜索 DeepSeek 试图搞清楚 DeepSeek 到底是个啥？ 之后的排名则较为正常：加州、华盛顿州这些传统 IT 公司和 AI 研究机构集中的地区关注度较高。但 DeepSeek 这么高的关注度确实值得一提。 前面我们讨论的是发布方的反应，现在来看美国社会中精英 KOL 们的反馈。大家可能还记得，我之前提到，12 月 26 号 V3 发布时， 相比 R1 Lite Preview，这次在学术圈真正「破圈」了。 为什么这么说？可以看这张图，右侧是 Andrej Karpathy 的 Twitter。当天，他发布了一条非常长的推文，详细介绍了 V3，并评价其为「very nice and detailed tech report（非常出色且详细的技术报告）」。可以确定的是，12 月 26 号 V3 发布时，它已获得美国主流学术圈的认可，只是当时很多人尚未意识到 V3 的更深层次价值。 我们再回到春节期间的「炸街」时刻。 第一次让我意识到美国舆论开始转变的节点是什么？当时，我们都在各种群聊里，应该有不少人看到了。那天，我特别兴奋地转发了 Marc Andreessen 的 Twitter。大家知道，他通常对中国科技持激进甚至有时候是轻蔑态度。 24 号时，他开始连发推文，惊叹这是什么东西？太炸裂了吧。之前他会批注比如，这太厉害了，但请注意，我说它好，不代表我很高兴，我是觉得它很危险。但仅仅一天后，他的语气彻底改变了。这条推文没有任何负面情绪，而是完全正面的表达。 到了 28 号，Sam Altman 也不得不出面表态，尽管说得别别扭扭的，比如暗示 「其实我是想开源的，但组织上不允许」之类的托词。杨立昆也承认 R1 的影响力和研究质量，不过试图将话题引向「开源」的胜利，而非某个国家的胜利。 无论如何，这项工作已经得到了美国 AI 界顶级领袖的认可。无论是对质量还是对这一事件本身的认可，其影响力已经显而易见。至于这个影响是好是坏，原因是什么，这是我们接下来要探讨的话题。 到了 2 月 2 日或 3 日，仍然有一些持反对意见的人在称这项工作是 DeepSeek 雇佣水军炒作。实际上，主流圈子对此并未关注。但事实就摆在眼前，无需辩证。 最值得注意的是 1 月 27 日这一天，股市剧烈波动。左边，从上到下依次是英伟达、台积电、美光，股价瞬间砸一个天坑。右边，从上到下是中芯国际、360 和金山云，股价却突然上涨，仿佛呈现出一种「东升西落」的趋势。 这说明 R1 的出现对真实世界的影响同样不容忽视。 在 Sensor Tower 的数据中，左图显示的是 DAU ，其中紫色线代表 ChatGPT。而在底部，原本较小的其他竞品，如 Claude 和 Perplexity，虽然一直是 ChatGPT 的跟随者，其用户占比相对恒定且较低。但在 1 月底的几天里，DeepSeek 出现了显著增长，占比大约达到 20%。 左图显示的是 DAU，右图是新增下载量 右侧的图展示了新增下载量，在突破某个临界点后继续增长。我截图的时候比较早，昨天查看最新的数据，发现左图趋势持续向上，虽然右图的下载量有所回落，但仍然高于 ChatGPT。目前来看，这一趋势仍在持续。 不管是业界领袖的认可，股票市场的反应，还是真实用户的选择，都证明了这一事件的影响是真实存在的，并且具有用户价值。这是过去半个月里发生的重要变化。 接下来，我们回到为什么要组织这次学习分享。这件事对我而言非常重要。我从 1 月 23 日开始关注，并频繁阅读中美两地的各种言论，包括圈内和圈外的讨论。随着这个事件的破圈，越来越多非专业人士开始关注，人们对其归因的方式也变得过于简单。 比如，有人认为这是因为中国人工便宜，从而把美国顶尖科技的成本打下来了。也有人说这是抄袭，只要复制就能成功。 此外，还有另一种叙事，即某个不知名的小团队突然创造了全球顶级的科技创新。 然而，无论哪种归因，都显得过于表面，脱离了产品，缺乏对技术本身的深入理解。 这个事件简单归因是傲慢的，最好的享用方式是学习它。 当面对一个如此重大的事件时，仅仅存入记忆是不够的。去学习它、理解它，搞清楚为什么会发生这样大的影响力才是本次分享的核心目的。 02 什么是推理模型？ 对于大部分听众来说，我们不是专业研究算法或工程的，我自己是做产品的。我们首先需要解决的一个基本问题是：什么是推理模型？ 我们已经有大语言模型了，为什么还需要推理模型？ 我这里准备了一个小测试，不知道大家是否了解，人脑有一个特殊的能力叫「数量识别」。这不是简单的数字识别，而是对数量的直觉判断。比如，我会切换一张图片，你需要在一秒内告诉我上面有多少颗黄球。一般来说，一个正常人只能识别 6 及 6 个以内的个数。好，现在准备——3、2、1，切换！ 「数量识别」测试 通过这个实验，我们可以发现，在几千年的进化后，人类在数数时并不一定需要一个个地数，而是在一定范围内可以凭直觉判断。这一现象背后的认知机制，也是推理模型的一个重要基础。 语言模型，特别是大语言模型，有一个特性相似的特点：模型在给出答案时，一般会直接做出回答，尽管这种方式往往容易出错。举个经典例子，比如 CoT（Chain of Thought，思维链），Jason Wei 强调了一个重要的思想： 模型需要更多的 token 来进行思考。 Peak 曾经给我说过一个直击本质的观点。大家知道，语言模型的本质是激活一个庞大的神经网络矩阵。当输入一个 token 时，它能够激活矩阵中的某些部分，但这种激活是有限的。当输入更多的 token 时，能够激活的部分也更多，信息量随之增加。因此，更多的 token 意味着模型能够得到足够信息，从而做出更为精准的决策。 模型需要更多 token 来「思考」，这也促使我们提出了推理模型（Reasoning Model）的概念。 什么是推理模型？比如，我们可以用一个例子来说明。假设我们问一个问题：「从望京西到西直门坐地铁需要几站？」一个「直接回答型」的模型可能会像下图左边直接回答：「九站」。 而推理模型则会做出右边的回答。它首先会考虑多种换乘路线，接着比较各路线的换乘站数，最后综合得出最佳方案。 推理模型不仅仅给出答案，它还会展示其思维过程。 大家可能会觉得，这和 CoT 有相似之处。那么，推理模型和 CoT 有什么区别呢？如果你已经习惯了使用 ChatGPT，你可能会直觉地认为，推理模型不就是 CoT 吗？我直接写个 CoT，让它一步步进行推理就行了。比如，针对刚才的地铁问题，我们可以跟模型讲：请先列出所有可能的换乘路线，再计算每条路线的换乘站数，最后综合得出最优答案。 如果你愿意为每个问题都写出如此详细的 CoT，这也是可行的。 但这里有个问题。我们来看一下去年震惊整个业界的事件——当时 ChatGPT 的 o1 系列模型发布，它刷新了多个记录。比如在数学领域，它的得分从 13 分直接跃升至 56 分和 83 分；在写代码方面，它从 11 分飙升至 89 分，快把榜单刷爆了。PhD 级别的科学问题虽然提升没有那么显著，但也极为恐怖。如果你经常看论文，就会明白把基准测试刷新一两分都能发表论文。 其中，最让人惊讶的是 PhD 级别的成绩，尤其是右边绿色，代表的是人类专家的得分。ChatGPT 已经超过了真正的 PhD。 推理模型的本质是让模型自己构建 CoT，并将前面推理的步骤展示出来。虽然你也可以自己手动编写 CoT， 但问题是：我们能否对每一个问题都写出完整的 CoT 呢？ 比如，下面这两个问题，分别出现在 2024 年 AI 的基准测试和 PhD 级别的评测中。假如你还是一个数学或物理 PhD，或许能写出 CoT，但对于绝大多数人来说，能够把每个问题的思维过程一步步写出来并不容易。 左边是 AIME 2024 的测试题 右边为 PhD 水平 GPQA Diamond 的测试题 这就是推理模型的必要性。它能帮助我们处理一些特定领域的问题。举个例子，推理模型非常适合解答谜题，比如翻译二战时期的密码电文，或者进行数学证明，解决复杂的决策问题，甚至是开放式问题。推理模型不仅给出最终答案，还会展示思考过程。 而对于一些简单的知识性问题，比如「哪个是中国的首都？」，我们显然不需要使用推理模型，直接给出「北京」就可以。很贵，而且想得多容易搞错。 推理模型有其适用场景。为什么它在我们行业中如此重要呢？原因有两点。 首先，大家看到的在数学、写代码和 PhD 级别领域的突破，预示着大语言模型的应用不仅仅局限于作为聊天机器人，它已经可以进入到加速国家科技研究的领域。 推动 AI 发展的各大厂商都在追求 AGI，甚至更高层次的 ASI（超人工智能）。 另外一个方面是，至少目前从 R1 的结果，以及之前大家在使用 o1 的过程中，我们发现，尽管训练推理模型主要是为了处理数学、物理