万字赏析 DeepSeek 创造之美：DeepSeek R1 是怎样炼成的？丨荐读

万字赏析 DeepSeek 创造之美：DeepSeek R1 是怎样炼成的？丨荐读万字赏析 DeepSeek 创造之美：DeepSeek R1 是怎样炼成的？丨荐读 Modified February 16, 2025 每次训练单个 token 时都要从头到尾来一遍，计算量和数据量太大，训练越来越慢，越训越崩。很容易崩溃。MoE 的概念其实很早就有了，是一个老概念。但最近几年，第一个让它重新被业界关注的是 Mistral，欧洲的一个团队做的 8×7B 的 MoE 模型。他们发现，不需要每次训练或推理时都激活整个模型。实际上，我可以将模型做得非常大，比如说做成 8×7B，但每次只激活其中一个专家，也就是说每次只激活 7B 的部分。这样一来，训练和推理的开销都会变小，训练时也更不容易崩溃。这是之前的探索，比如 8×7B、8×22B 等，还有腾讯去年年底发布的混元模型，它是一个 300B 左右的 MoE 模型。虽然这些探索都很有价值，但 MoE 的问题之一是专家数量通常不够多。比如 Mistral 的 8×7B 和 22B 模型都是有 8 个专家，稀疏度不够，总 size 难以进一步提升。 DeepSeekMoE 在 V2 中做了很多创新。首先，V2 中的模型已经超大规模，达到 236B，而每次激活 21B。到 V3 时，这个模型已经扩展到 671B，是目前 MoE 模型中最大的，每次激活 37B。很多人觉得 MoE 模型很 low，认为大模型训不下去了，训一堆小模型，「三个臭皮匠，顶一个诸葛亮」。但 MoE 不是这样。大家脑子里 MoE 认为它是有 8 个专家，训练时就从中选择一个专家回答问题。其实并非如此。模型里是多层的，每一层都有很多专家。在 DeepSeek MoE V3 中，每层有 256 块，有很多层，token 经过每一层时都会被分配到不同的块中。因此，token 在模型内部会经过多层多个不同专家的处理，而「专家」这一名称其实有些误导。在 DeepSeek V2 和 V3 中，创新的地方在于他们不再简单地用 router 分流算法将 token 直接扔给专家，而是在每个 token 被送往专家之前，V2 加了一层，V3 加了三层 FFN，可以理解成加了个小模型。这些小模型能够理解潜空间中的一些概念，提高了模型的智能处理能力。 MoE 也可以类比为医院的分诊台。在过去，医院的所有病人都必须先找全科医生，效率很低。而 MoE 模型则相当于有一个分诊台，将病人分配到不同的专科医生那里。DeepSeek 在这方面也有创新，之前分诊的或许只是一个完全没有医学知识的「保安」，而他们用的是一个有医学知识的「本科生」来处理分流任务。 DeepSeek 还引入了共享专家（shared experts）的概念，图片里绿色的部分，每一层 shared experts 一定会被激活。有些通用的能力会被共享。他们还设计了一个粗暴但实用的 router 算法，也做了一个极致的跨节点通信效率方案，使用了 NVIDIA 收购的 InfiniBand 和 NVLink。这些创新都非常厉害，MoE 大家都探索了一年多了，没人在这么大尺度上做这些事情。而且他们训 V3 一次就训过去了，都没有训崩，这也是为什么他们能以 500 多万的训练成本完成训练的重要原因。接下来是 MLA。MLA 就更偏算法。大家知道 Transformer 中的 MHA 对显存占用很大，但是显存里除了存了模型权重，有 30 40% 的空间都在存上下文，很多通过 KV cache。而 MLA 是用时间换空间。训练时虽然多花时间，把一个本来是 m n 的矩阵直接压缩成了一个一维的 lora，压缩率非常高。这样推理的时候 KV 比别人小，这样承载的上下文就会变多。不仅压缩尺寸承载更多推理，而且在测试中，发现相比 MHA 智力性能没有下降，反倒有提升。最后是 DeepSeek 在 V3 引入的 FP8 训练。传统的训练模型既有 16 位浮点，也有 32 位，而 FP8 是 8 位浮点。大家都觉得 8 位浮点表达的精度太浅了。但是绝大部分团队搞不定。你可以用 8 位浮点运算，但到底哪个部分可以呢？没法知道。有可能你前面换了 8 位，后面就崩了，也不知道什么导致的。 DeepSeek 团队是第一次，在那么大规模的模型里，真的把 FP8 混合精度训练做出来了。这是很难想象的。而且稳定性还非常好。这个工作的意义是什么呢？它不仅减少了运算量和传输量，还有一个重要的好处。如果有人真正部署自己的模型，应该都知道，我们很少会直接部署全尺寸的原始模型，而是通常会进行量化处理，以减少存储和计算需求，使其能够在低配置的设备上运行。 FP8 训练的一个优势在于，它在训练阶段就已经使用 FP8 进行计算，相较于那些原本使用 16 位计算、随后再通过量化方法转换为 8 位的模型，FP8 训练使得模型原生支持 8 位（native FP8），因此比后期再进行 8 位量化的方式更优。这一改进带来了显著的性能提升。接下来是 MTP（Multi Token Prediction），这是一个非常有趣的概念，Peak 花了不少时间才把我讲懂。MTP，即多 Token 预测，其目的是让模型在推理时看得更远一点。大家知道，Transformer 采用的是单 Token 预测（Next Token Prediction），即每次只预测下一个 Token。但学界提出了一个新的思路：如果在预测时，不仅推测下一个 Token，还能同时预测下两个、三个甚至四个 Token，会不会让模型在训练过程中学到更全局最优的策略？具体而言，虽然某个 Token 在当前上下文下的概率最高、最优，但如果模型仅基于局部信息作出选择，可能会导致下一个 Token 以及更远的 Token 预测不佳。而如果模型能够看到更长远的影响，它便可以在训练过程中优化整体策略，从而变得更加智能。这便是 MTP 训练的基本原理，它本质上是让模型具备更强的远期规划能力。同时，MTP 还带来了一个重要的效果——推理时的效率提升。由于模型在训练阶段已经学会了这种预测方式，因此在推理时，它可以一次性推多个 Token。例如，在 DeepSeek V3 研究中，MTP 方法实现了一次性推两个 Token 的能力。当然，之前也有类似的技术，比如推测解码（Speculative Decoding）。不过，之前需要额外配备一个类似 7B 的小型模型来先行推测 Token，再由 70B 的大模型进行最终验证。而 MTP 直接在同一模型内完成这一过程，无需额外的小模型。我在第一句中提到的：这是对创新的执着追求。为什么这么说呢？因为从收益上看，除了推理效率的提升，实际上性能上的收益并没有那么显著。但这代表了 DeepSeek 团队一个非常独特的特征—— 他们很想做新的挑战。就像我刚才给大家展示的这些内容，每一个部分单独拿出来都可以成为一篇高质量的论文。 V3 这里面有这么多，光是目录就能把你吓一跳，我只是挑选了一些技术。而且 V3 质量高到什么程度？从想法的提出、实验的设计，到工程软件和硬件如何实现，都讲得非常清楚。其实 R1 很快就读完了，没有多少内容，很快就看透了。但 V3 要看很久很久，非常精彩。V3 的乐趣远不止此。但我为什么要挑出 FP8 和新的 MoE 架构等技术？我们回顾一下关键词：什么 shared experts？为什么选择粗暴的 router 方法？为什么不采用以前的分流算法？为什么要把跨节点通信效率提升到极致？还在底层做了很多汇编层面的改动？为什么要让训练时的激活内存变小？为什么要减少 KV cache？为什么要减少运输量和传输？所有这些工程优化都指向一个目标——就是没卡。大家看，H800 和 H100 之间最大的区别是什么？大家注意到没有？互联带宽，H100 的互联带宽是双向 900G，而 H800 只有 400G，差了一倍。而且大家知道，现在每个节点上有 8 张卡，很多节点还需要通过 IB 或者 RoCE 连接在一起，节点使用 NVLink 来传输数据。如果你在节点内就已经比 H100 慢了一倍，你就很尴尬了。你会发现，他们所有的工程优化措施，比如内存压缩、显存占用减少、通信量减少等，每一个都是提升 10% 到 20%，这些措施加起来，其实就是为了弥补 NVLink 带宽不够用的问题。我当时还读了一篇非常精彩的文章，就是 Ben Thompson 给美国人解释的 DeepSeek。文章里提到，如果你真正深入了解 V3 的实现，你就会做出一个判断：这家公司根本没有那么多高端显卡，否则我真的搞不懂他们为什么要在工程上进行那么多的奇技淫巧。特别有意思的是，当我准备这次分享时，发现文中提到的 NVLink 速率为 160G 每秒，而不是 H800 的 400G。这让我很好奇，于是我在 GitHub 上查了一下，发现有人也提了类似的问题，问：「为什么你们的 NVLink 速率是 160G，而不是 400G。」最后，下面是幻方的人员回答说：「400G 是双向理论值，而 160G 是单向实测值。」这就意味着他们真的在 H800 上在干活，但仍然受限于物理带宽的上限。整个 V2 的 DeepSeek MoE，包括 V3 后的框架实现，都是为了降低运算量和通信带宽，以便能在他们的显卡上完成这些实验。因为大家知道，训练只是最终跑的一轮，但研究人员平时还需要进行大量实验，而高端显卡供应是不够的。深入理解这篇论文后，你就会明白他们确实遇到了这些实际困难。每次训练单个 token 时都要从头到尾来一遍，计算量和数据量太大，训练越来越慢，越训越崩。很容易崩溃。MoE 的概念其实很早就有了，是一个老概念。但最近几年，第一个让它重新被业界关注的是 Mistral，欧洲的一个团队做的 8×7B 的 MoE 模型。他们发现，不需要每次训练或推理时都激活整个模型。实际上，我可以将模型做得非常大，比如说做成 8×7B，但每次只激活其中一个专家，也就是说每次只激活 7B 的部分。这样一来，训练和推理的开销都会变小，训练时也更不容易崩溃。这是之前的探索，比如 8×7B、8×22B 等，还有腾讯去年年底发布的混元模型，它是一个 300B 左右的 MoE 模型。虽然这些探索都很有价值，但 MoE 的问题之一是专家数量通常不够多。比如 Mistral 的 8×7B 和 22B 模型都是有 8 个专家，稀疏度不够，总 size 难以进一步提升。 DeepSeekMoE 在 V2 中做了很多创新。首先，V2 中的模型已经超大规模，达到 236B，而每次激活 21B。到 V3 时，这个模型已经扩展到 671B，是目前 MoE 模型中最大的，每次激活 37B。很多人觉得 MoE 模型很 low，认为大模型训不下去了，训一堆小模型，「三个臭皮匠，顶一个诸葛亮」。但 MoE 不是这样。大家脑子里 MoE 认为它是有 8 个专家，训练时就从中选择一个专家回答问题。其实并非如此。模型里是多层的，每一层都有很多专家。在 DeepSeek MoE V3 中，每层有 256 块，有很多层，token 经过每一层时都会被分配到不同的块中。因此，token 在模型内部会经过多层多个不同专家的处理，而「专家」这一名称其实有些误导。在 DeepSeek V2 和 V3 中，创新的地方在于他们不再简单地用 router 分流算法将 token 直接扔给专家，而是在每个 token 被送往专家之前，V2 加了一层，V3 加了三层 FFN，可以理解成加了个小模型。这些小模型能够理解潜空间中的一些概念，提高了模型的智能处理能力。 MoE 也可以类比为医院的分诊台。在过去，医院的所有病人都必须先找全科医生，效率很低。而 MoE 模型则相当于有一个分诊台，将病人分配到不同的专科医生那里。DeepSeek 在这方面也有创新，之前分诊的或许只是一个完全没有医学知识的「保安」，而他们用的是一个有医学知识的「本科生」来处理分流任务。 DeepSeek 还引入了共享专家（shared experts）的概念，图片里绿色的部分，每一层 shared experts 一定会被激活。有些通用的能力会被共享。他们还设计了一个粗暴但实用的 router 算法，也做了一个极致的跨节点通信效率方案，使用了 NVIDIA 收购的 InfiniBand 和 NVLink。这些创新都非常厉害，MoE 大家都探索了一年多了，没人在这么大尺度上做这些事情。而且他们训 V3 一次就训过去了，都没有训崩，这也是为什么他们能以 500 多万的训练成本完成训练的重要原因。接下来是 MLA。MLA 就更偏算法。大家知道 Transformer 中的 MHA 对显存占用很大，但是显存里除了存了模型权重，有 30 40% 的空间都在存上下文，很多通过 KV cache。而 MLA 是用时间换空间。训练时虽然多花时间，把一个本来是 m n 的矩阵直接压缩成了一个一维的 lora，压缩率非常高。这样推理的时候 KV 比别人小，这样承载的上下文就会变多。不仅压缩尺寸承载更多推理，而且在测试中，发现相比 MHA 智力性能没有下降，反倒有提升。最后是 DeepSeek 在 V3 引入的 FP8 训练。传统的训练模型既有 16 位浮点，也有 32 位，而 FP8 是 8 位浮点。大家都觉得 8 位浮点表达的精度太浅了。但是绝大部分团队搞不定。你可以用 8 位浮点运算，但到底哪个部分可以呢？没法知道。有可能你前面换了 8 位，后面就崩了，也不知道什么导致的。 DeepSeek 团队是第一次，在那么大规模的模型里，真的把 FP8 混合精度训练做出来了。这是很难想象的。而且稳定性还非常好。这个工作的意义是什么呢？它不仅减少了运算量和传输量，还有一个重要的好处。如果有人真正部署自己的模型，应该都知道，我们很少会直接部署全尺寸的原始模型，而是通常会进行量化处理，以减少存储和计算需求，使其能够在低配置的设备上运行。 FP8 训练的一个优势在于，它在训练阶段就已经使用 FP8 进行计算，相较于那些原本使用 16 位计算、随后再通过量化方法转换为 8 位的模型，FP8 训练使得模型原生支持 8 位（native FP8），因此比后期再进行 8 位量化的方式更优。这一改进带来了显著的性能提升。接下来是 MTP（Multi Token Prediction），这是一个非常有趣的概念，Peak 花了不少时间才把我讲懂。MTP，即多 Token 预测，其目的是让模型在推理时看得更远一点。大家知道，Transformer 采用的是单 Token 预测（Next Token Prediction），即每次只预测下一个 Token。但学界提出了一个新的思路：如果在预测时，不仅推测下一个 Token，还能同时预测下两个、三个甚至四个 Token，会不会让模型在训练过程中学到更全局最优的策略？具体而言，虽然某个 Token 在当前上下文下的概率最高、最优，但如果模型仅基于局部信息作出选择，可能会导致下一个 Token 以及更远的 Token 预测不佳。而如果模型能够看到更长远的影响，它便可以在训练过程中优化整体策略，从而变得更加智能。这便是 MTP 训练的基本原理，它本质上是让模型具备更强的远期规划能力。同时，MTP 还带来了一个重要的效果——推理时的效率提升。由于模型在训练阶段已经学会了这种预测方式，因此在推理时，它可以一次性推多个 Token。例如，在 DeepSeek V3 研究中，MTP 方法实现了一次性推两个 Token 的能力。当然，之前也有类似的技术，比如推测解码（Speculative Decoding）。不过，之前需要额外配备一个类似 7B 的小型模型来先行推测 Token，再由 70B 的大模型进行最终验证。而 MTP 直接在同一模型内完成这一过程，无需额外的小模型。我在第一句中提到的：这是对创新的执着追求。为什么这么说呢？因为从收益上看，除了推理效率的提升，实际上性能上的收益并没有那么显著。但这代表了 DeepSeek 团队一个非常独特的特征—— 他们很想做新的挑战。就像我刚才给大家展示的这些内容，每一个部分单独拿出来都可以成为一篇高质量的论文。 V3 这里面有这么多，光是目录就能把你吓一跳，我只是挑选了一些技术。而且 V3 质量高到什么程度？从想法的提出、实验的设计，到工程软件和硬件如何实现，都讲得非常清楚。其实 R1 很快就读完了，没有多少内容，很快就看透了。但 V3 要看很久很久，非常精彩。V3 的乐趣远不止此。但我为什么要挑出 FP8 和新的 MoE 架构等技术？我们回顾一下关键词：什么 shared experts？为什么选择粗暴的 router 方法？为什么不采用以前的分流算法？为什么要把跨节点通信效率提升到极致？还在底层做了很多汇编层面的改动？为什么要让训练时的激活内存变小？为什么要减少 KV cache？为什么要减少运输量和传输？所有这些工程优化都指向一个目标——就是没卡。大家看，H800 和 H100 之间最大的区别是什么？大家注意到没有？互联带宽，H100 的互联带宽是双向 900G，而 H800 只有 400G，差了一倍。而且大家知道，现在每个节点上有 8 张卡，很多节点还需要通过 IB 或者 RoCE 连接在一起，节点使用 NVLink 来传输数据。如果你在节点内就已经比 H100 慢了一倍，你就很尴尬了。你会发现，他们所有的工程优化措施，比如内存压缩、显存占用减少、通信量减少等，每一个都是提升 10% 到 20%，这些措施加起来，其实就是为了弥补 NVLink 带宽不够用的问题。我当时还读了一篇非常精彩的文章，就是 Ben Thompson 给美国人解释的 DeepSeek。文章里提到，如果你真正深入了解 V3 的实现，你就会做出一个判断：这家公司根本没有那么多高端显卡，否则我真的搞不懂他们为什么要在工程上进行那么多的奇技淫巧。特别有意思的是，当我准备这次分享时，发现文中提到的 NVLink 速率为 160G 每秒，而不是 H800 的 400G。这让我很好奇，于是我在 GitHub 上查了一下，发现有人也提了类似的问题，问：「为什么你们的 NVLink 速率是 160G，而不是 400G。」最后，下面是幻方的人员回答说：「400G 是双向理论值，而 160G 是单向实测值。」这就意味着他们真的在 H800 上在干活，但仍然受限于物理带宽的上限。整个 V2 的 DeepSeek MoE，包括 V3 后的框架实现，都是为了降低运算量和通信带宽，以便能在他们的显卡上完成这些实验。因为大家知道，训练只是最终跑的一轮，但研究人员平时还需要进行大量实验，而高端显卡供应是不够的。深入理解这篇论文后，你就会明白他们确实遇到了这些实际困难。但事实上上面是 SemiAnalysis，这个结果是比较公允的。上图左下角是 2022 年 10 月 7 日，美国第一次禁运，那时候 H800 可以买的。 2025 年 1 月 13 日，第二次禁运之后，H800 也进入了限制范围。对于 DeepSeek 来说，他们的 H800 合规购买是在 1 月 13 号之前完成的。这个数据（1 万张 A100 版、1 万张 H100 和 1 万张 H800）是比较符合实际情况的，后面只能购买合规的 H20 卡。回到刚才提到的 V3，我们讨论了很多工程优化和奇技淫巧。如果他们真有这么多 H100，就完全没有必要做这些优化。另外，关于小红书、抖音上流传的 9 块 9 付费本地部署，我想大家听完今天的分享应该明白，除非你家里有矿，拥有 8 张 A100，否则本地部署几乎不可能实现。许多宣传所谓「本地部署」的其实只是蒸馏的模型，像千问 1.5B、7B 或者 32B 的模型。很多电脑跑不动 32B，可能只是 7B 的蒸馏版。对于本地部署，我本来非常反对，觉得这是欺骗，但后来我想了想，也许这是一个机会，让很多人学会了如何在自己的电脑上跑 LLM，也许也是一个蛮不错的事情。再说一下蒸馏和偷窃。我本来准备了长篇大论，尤其是如果说是蒸馏，举证责任应该在对方，不应该由我来回应。我不是专业人士，不能代表 OpenAI 或者 DeepSeek，做回应挺无力的。直到昨天我在研究 V3 时，看到一个意外的发现。大家还记得 12 月 26 号 Andrej Karpathy 转发了 V3 的论文吗？在他转发的 Twitter 下，有一个美国老哥跳出来说，我用了这个模型，这个模型说自己是 ChatGPT，并且发了截图。结果 Andrej Karpathy 自己回应了这个问题，他说：我们根本没必要做这种事情，问一个模型它是谁没有意义。当你问模型「你是谁」时，你就陷入了「过度拟人化」的陷阱。非从业人士往往会把 ChatGPT 看得太聪明，觉得它有自己的意识，知道自己是谁。但实际上，所有的模型，无论是预训练模型还是其他模型，根本没有「我是谁」这个概念。它们所回答的「我是 ChatGPT」或者「我是 OpenAI」，都是我们设计的数据训练模型时告诉它的回答方式。因为在 DeepSeek 训练 V3 时，世界上已经有很多包含「ChatGPT」这个关键词的数据，因此当模型被问到「你是谁」时，它会给出「ChatGPT」这种回答。从概率分布上讲，你应该挑最大概率的回答。这个问题并非不可解决。所有的模型在预训练后，在后期的对齐训练中，会进行自我认知的调整。如果 DeepSeek 想做这个调整，完全可以通过不断对齐数据，教模型在被问到「你是谁」时回答：「我是 DeepSeek 大模型，我是 DeepSeek V3。」我对这个问题的看法是，AK 的回应已经很好了。如果以后还有人拿截图说某个模型是 OpenAI，你只需要把 AK 的回应丢给他就行了，AK 的观点比谁都更有说服力。在巨大的创新面前，一切跳梁小丑看他们都很滑稽。噪音会随着时间逐渐消减。但是我相信像 DeepSeek 的 V2、V3 和 R1 这样的论文肯定会持续产生影响。那种创造的美，你只要去体会它、理解它，你一定能感受到的。它非常非常地美。正如我们去年学习 Stable Diffusion 时，那些论文都很老了，但现在回头看，仍然觉得它们非常地美。推荐阅读 🔗 原文链接： https://mp.weixin.qq.com/s/8ifsQ1eR... https://mp.weixin.qq.com/s/8ifsQ1eR... 🔗原创作者：真格基金（公众号同名）专注早期投资，欢迎投递商业计划书至 dream@zhenfund.com dream@zhenfund.com 【编者按】当一项技术成为现象级话题，信息过载往往带来认知负担。DeepSeek的迅速崛起催生出海量解读，但真正具备信息增量的内容可能不足千分之一。腾讯科技以“价值密度”为筛，从全球视野筛选出5 10篇兼具技术纵深感与行业前瞻性的深度解析，为关注AGI进程的读者过滤噪音、提炼精华。作者 Monica.im产品合伙人张涛最好的致敬是学习今年春节，我在上海过年，没有回重庆，就通过视频给爸妈拜年。我给我妈说新年快乐时，听到我爸在旁边喊道：「你快问一下张涛，那个梁文锋是不是真的那么牛逼啊？」今年的 DeepSeek 和 R1 话题真的是破圈的程度非常高，甚至像重庆这样的二线城市的老头老太太们都在关注这些话题，且真心关心它背后的原理到底是什么。首先我们回顾一下这些发生的事情，理清时间线，确保大家对这个事情有共同的认知。去年 11 月 20 日，DeepSeek 在官方 Twitter 上发布了 R1 Lite Preview。当时发布的 R1 Lite Preview，实话说，离现在的影响力连 1% 都谈不上，可能只有万分之一。只有去年 11 月 o1 发布后，有一些人试图复现 o1，这时他们可能对这个 R1 Lite Preview 感兴趣，甚至有人基于它进行一些蒸馏和 SFT 的工作。但这些工作在学术界内部并未出圈。接着到 12 月 26 日，发布了 DeepSeek V3。相比 R1 Lite Preview，它的影响力就更大了一些。稍后我会举一个例子证明，至少在学术界，它是有出圈的。第三个时间点是 1 月 15 日，DeepSeek 发布了他们的 APP。当时如果大家仔细看，会发现 15 号发布的 APP 中，已经有了 DeepThink 模式。但是 DeepThink 这个模式一直无人在意，国内没有，国外也没有。如果大家能回到 15 号的语境下，其实可以理解为什么。当时不仅是美国，包括我们在内，大家关注的新闻基本只有一个——特朗普即将登基。公众的注意力还更多集中在这些政治事件上。直到 20 号，R1 才正式发布，一方面是相关论文公开，另一方面是模型权重的开源。从时间线来看，R1 最早的苗头实际上在去年 11 月份就已经出现，并非一夜之间爆发的。在这个过程中，还有几个关键节点需要关注，包括 V3 的重要性——这是我们今天讨论的核心话题之一。接下来，我给大家看一个有趣的现象。在 Google 上搜索 DeepSeek 这个关键词，可以看到其关注度的起点是在 1 月 20 号，也就是 R1 发布之后。随着学术界开始小范围讨论，20 号到 24 号、27 号之间热度逐渐升温，直到 27 号，英伟达及一众美国 AI 概念股「砸出巨坑」，DeepSeek 的搜索量也随之达到顶峰。即使热度在一周后有所回落，相比 20 号之前接近 0% 的状态，现在仍然维持在 20% 左右。这说明，尽管流量有所回调，但关注度并未完全消退。接下来是一个有趣的话题，不知道大家能不能猜到：在美国，按行政区域划分，哪个地区对 DeepSeek 关注度最高？我当时在看数据时觉得非常有意思。本以为会是加州，毕竟 AI 相关研究人员主要集中在那里，但实际上，最高关注度出现在华盛顿特区。可以想象，在 27 号市场震荡后，华盛顿的一众政客疯狂在 Google 上搜索 DeepSeek 试图搞清楚 DeepSeek 到底是个啥？之后的排名则较为正常：加州、华盛顿州这些传统 IT 公司和 AI 研究机构集中的地区关注度较高。但 DeepSeek 这么高的关注度确实值得一提。前面我们讨论的是发布方的反应，现在来看美国社会中精英 KOL 们的反馈。大家可能还记得，我之前提到，12 月 26 号 V3 发布时，相比 R1 Lite Preview，这次在学术圈真正「破圈」了。为什么这么说？可以看这张图，右侧是 Andrej Karpathy 的 Twitter。当天，他发布了一条非常长的推文，详细介绍了 V3，并评价其为「very nice and detailed tech report（非常出色且详细的技术报告）」。可以确定的是，12 月 26 号 V3 发布时，它已获得美国主流学术圈的认可，只是当时很多人尚未意识到 V3 的更深层次价值。我们再回到春节期间的「炸街」时刻。第一次让我意识到美国舆论开始转变的节点是什么？当时，我们都在各种群聊里，应该有不少人看到了。那天，我特别兴奋地转发了 Marc Andreessen 的 Twitter。大家知道，他通常对中国科技持激进甚至有时候是轻蔑态度。 24 号时，他开始连发推文，惊叹这是什么东西？太炸裂了吧。之前他会批注比如，这太厉害了，但请注意，我说它好，不代表我很高兴，我是觉得它很危险。但仅仅一天后，他的语气彻底改变了。这条推文没有任何负面情绪，而是完全正面的表达。到了 28 号，Sam Altman 也不得不出面表态，尽管说得别别扭扭的，比如暗示「其实我是想开源的，但组织上不允许」之类的托词。杨立昆也承认 R1 的影响力和研究质量，不过试图将话题引向「开源」的胜利，而非某个国家的胜利。无论如何，这项工作已经得到了美国 AI 界顶级领袖的认可。无论是对质量还是对这一事件本身的认可，其影响力已经显而易见。至于这个影响是好是坏，原因是什么，这是我们接下来要探讨的话题。到了 2 月 2 日或 3 日，仍然有一些持反对意见的人在称这项工作是 DeepSeek 雇佣水军炒作。实际上，主流圈子对此并未关注。但事实就摆在眼前，无需辩证。最值得注意的是 1 月 27 日这一天，股市剧烈波动。左边，从上到下依次是英伟达、台积电、美光，股价瞬间砸一个天坑。右边，从上到下是中芯国际、360 和金山云，股价却突然上涨，仿佛呈现出一种「东升西落」的趋势。这说明 R1 的出现对真实世界的影响同样不容忽视。在 Sensor Tower 的数据中，左图显示的是 DAU ，其中紫色线代表 ChatGPT。而

在小宇宙note 阅读完整内容