DeepSeek-V4开源,附论文细节解读&实测对比
DeepSeek-V4开源,附论文细节解读&实测对比
DeepSeek V4开源,附论文细节解读&实测对比 DeepSeek V4开源,附论文细节解读&实测对比 Modified April 25 Code block Plain Text 喂养间隔时间(默认3小时,可调范围1 6小时,步长30分钟) 提前提醒时间(默认15分钟,可调范围5 30分钟) 宝宝信息(昵称、出生日期) 关于 / 版本信息 单轮实现的效果已有雏形,但不如GLM5.1的效果,美观度和完成度,照4.6 opus有一定距离 但多轮交互后,整体都可以实现,是一个在agent、coding上较上个版本好很多,完全挤进第一梯队。 这个是4.6opus的成品,其实还是有一定差距的, No access 0b2ex4dcqaagpuad357nhvuvnp6dfc7qmkaa.f10002 00:00 复杂问题理解上, 对于老鹰问题,pro可以回答正确,但flash不可以 对于数学、生物、伦理这道题, Pro和Flash都可以回答出生物和伦理, 但是GLM5.1回答点到了3 8改了两笔,说明修改简单,但也没用直接说明好改。 可以理解“但丁真”,但不能理解“坦克有后视镜” 其实,坦克有后视镜,是因为坦克汽车。。。。世界知识,或者是没有转过来,当然现在没有一个模型可以想到 对于小鱼的SVG,flash模型跟hy3 preview一样,出现多条鱼,然后回倒着游。Pro没有问题。 No access 0bc3mmabqaaafaaa5f7lvjuvay6ddbrqagaa.f10002 00:00 No access 0b2ewmbkkaackmalawpj4nuvfm6duwzqfjia.f10002 00:00 魔法游戏,很完美,渲染的也很好看,整体功能完整 No access 0bc334dzwaah3qai2vxmxbuvpx6dtppqpgya.f10002 00:00 对于一句话生成矿工游戏,Pro可能实现,但是细节不如GLM5.1好,比如爪会抓飞等。 No access 0b2e5eddmaagzuacbc7ny5uvn2odg3uqmnqa.f10002 00:00 No access 0bc3x4ezyaajciaim6xczfuvtp6dts7qthaa.f10002 00:00 单轮实现的效果已有雏形,但不如GLM5.1的效果,美观度和完成度,照4.6 opus有一定距离 但多轮交互后,整体都可以实现,是一个在agent、coding上较上个版本好很多,完全挤进第一梯队。 这个是4.6opus的成品,其实还是有一定差距的, No access 0b2ex4dcqaagpuad357nhvuvnp6dfc7qmkaa.f10002 00:00 No access 0b2ex4dcqaagpuad357nhvuvnp6dfc7qmkaa.f10002 00:00 复杂问题理解上, 对于老鹰问题,pro可以回答正确,但flash不可以 对于数学、生物、伦理这道题, Pro和Flash都可以回答出生物和伦理, 但是GLM5.1回答点到了3 8改了两笔,说明修改简单,但也没用直接说明好改。 可以理解“但丁真”,但不能理解“坦克有后视镜” 其实,坦克有后视镜,是因为坦克汽车。。。。世界知识,或者是没有转过来,当然现在没有一个模型可以想到 对于小鱼的SVG,flash模型跟hy3 preview一样,出现多条鱼,然后回倒着游。Pro没有问题。 No access 0bc3mmabqaaafaaa5f7lvjuvay6ddbrqagaa.f10002 00:00 No access 0bc3mmabqaaafaaa5f7lvjuvay6ddbrqagaa.f10002 00:00 No access 0b2ewmbkkaackmalawpj4nuvfm6duwzqfjia.f10002 00:00 No access 0b2ewmbkkaackmalawpj4nuvfm6duwzqfjia.f10002 00:00 魔法游戏,很完美,渲染的也很好看,整体功能完整 No access 0bc334dzwaah3qai2vxmxbuvpx6dtppqpgya.f10002 00:00 No access 0bc334dzwaah3qai2vxmxbuvpx6dtppqpgya.f10002 00:00 对于一句话生成矿工游戏,Pro可能实现,但是细节不如GLM5.1好,比如爪会抓飞等。 No access 0b2e5eddmaagzuacbc7ny5uvn2odg3uqmnqa.f10002 00:00 No access 0b2e5eddmaagzuacbc7ny5uvn2odg3uqmnqa.f10002 00:00 No access 0bc3x4ezyaajciaim6xczfuvtp6dts7qthaa.f10002 00:00 No access 0bc3x4ezyaajciaim6xczfuvtp6dts7qthaa.f10002 00:00 GLM5.1效果, 最后, 期待已久的DeepSeek V4终于出了, 但我更希望是一个多模态模型, 等等,应该会有吧,毕竟原生多模态才是未来呀。 测试都不难,还没有十分深入使用, 用用再看, 不过,整体达到了预期。 PS:我能写这么快,全靠群友们努力的催,哈哈哈 🔗 原文链接: https://mp.weixin.qq.com/s/PiM A bH... https://mp.weixin.qq.com/s/PiM A bH... 原创 刘聪NLP 刘聪NLP 刘聪NLP2026年4月24日 15:34 江苏 大家好,我是刘聪NLP。 DeepSeek V4终于发布了,开源了两个模型DeepSeek V4 Pro(1.6T,激活49B)和DeepSeek V4 Flash(284B,激活13B)。 其实还是, 有一点点小失望的, 就是这个V4还是一个纯文本的模型, 并不是多模态模型。 不过说回来,DeepSeek也真是国内一股清流,一句“不诱于誉,不恐于诽,率道而行,端然正己。” 道破本心。 看完DeepSeek V4的论文,整个模型上的技术,之前都有纰漏, 流形约束超连接 (mHC) ,是基于字节的HC的改进,将残差映射矩阵 约束在双随机矩阵流形 上,从而增强信号跨层传播的稳定性。 https://arxiv.org/abs/2512.24880 混合压缩稀疏注意力(CSA)和重度压缩注意力(HCA), 注意力机制在 DeepSeek V3.2 Exp中 ,有提出DeepSeek稀疏注意力 DSA, DeepSeek V3.2 Exp中 核心是通过 一个快速索引器和 一个细粒度的Token选择器 ,每个 query 不再关注全部历史 token,而是只选择最相关的 top k 个 Key Value 单元参与计算,在于“少看” CSA则是 对DSA进一步引入了压缩机制 ,先将每 个Token的 KV Cache 压缩为一个注意力单元从而将序列长度从 n 降到 n/m,再在这些压缩后的 KV 单元上应用 DSA 的 top k 选择机制。 这样一来,CSA 同时减少了序列长度和关注范围,在效率和信息保留之间取得了更好的平衡,可以看作是对 DSA 的增强版本。 HCA则走向了另一个方向, 进一步提高压缩率,但不使用稀疏选择。 将更多的 token(m',远大于 CSA 中的 m)压缩成一个 KV 单元,使得整体序列长度大幅降低。 由于压缩后的 KV 数量已经足够小,所以采用了正常的dense attention,相当于用信息分辨率的损失换取更低的计算成本和更强的全局覆盖能力。 理解三者关系: • DSA = 稀疏(不压缩) • CSA = 压缩 + 稀疏 • HCA = 极限压缩(不稀疏) 混合上还做了其他操作,比如:额外的 RMSNorm、部分旋转位置嵌入、attention sink等 还有就是优化器采用Muon优化器,对就是Kimi K2用的优化器。 其他的,MoE、MTP就是之前DeepSeek V3的技术了。 模型在训练方面, 预训练阶段,语料到达 32T Tokens ,加大了长文档、科研论文及智能体代码的比重,逐步提升序列长度从4K至1M。 后训练阶段,分为两阶段。 先针对子领域微调出多个带有不同思考模式( Non think / High / Max )的专家模型, 再通过 在线策略蒸馏 将能力整合进统一模型,避免了传统模型合并带来的性能衰减。 舍弃传统标量奖励模型,直接用模型自生成评估奖励(GRM)。 增加快速指令标记 ,引入专用 token(如 <|query| 、<|domain| ),无需额外小模型即可并行处理搜索查询、意图识别等辅助任务,大幅降低首字延迟。 榜单上,也是逼近御三家的模型, 刷到 LMArena,DeepSeek V4也已经挤进开源前三。 榜单之外, DeepSeek牛逼之处就在于对资源的进一步压缩, 还有 国产 ,这么小的注释,感觉吃了很多苦。。。 下面开始测试, • Pro水平相较于GLM5.1差不多,但对于一句话实现的效果没那么好 • flash的水平,相较于前两天测试的ling 2.6 flash和hy3 preview要好一些 • 复杂理解Pro没有问题,但flash会不稳定 • 可以理解“但丁真”,但不能理解“坦克有后视镜” 先来看编程,我前面搞过一个app,当时用opus4.6进行多轮实现,我为了,方便,直接给了之前的prd文档,让其直接实现。