2025,这一年,年终总结
2025,这一年,年终总结
2025,这一年,年终总结 2025,这一年,年终总结 Modified January 22 真是,见面亲三分,就你很难想想在屏幕后面的是一个怎样的人, 好多人,没见我之前,以为我是那种40+的,老古董, 见了之后,才知道我是个rapper。。。 哈哈哈。 今年公众号,也从“NLP工作站”改成“刘聪NLP”, 这样全网ID,都一样了,再也不会迷路了,哈哈哈。 接下来,说说这一年下来的一些感受吧,也有一些期待, 开源模型是国内是Top1了! 重点感谢DeepSeek和Qwen吧, DeepSeek改变了国内大模型的格局,之前各大厂商,基本上是只开源小模型,最顶级的模型基本上是闭源的, DeepSeek开源V3、R1之后, 带动智谱、Kimi、混元、文心、MiniMax等等等等,都开源了顶级模型,也就是最好的, 虽然开的模型越来越大,但是极大的推动了开源社群的发展。 当然我最爱的Qwen,依旧坚持不懈的开源,今年Qwen3整个系列的模型 ,从纯文本、到VLM、到Omini,还有Image等等等等, 还是那个Qwen,很全、很顶, 之前学术界都是用Llama还实验,现在应该清一色都是Qwen了, 并且,自从Llama4陨落之后,国外基本上也没啥太多开源模型了, 可以说, 基本上开源模型和闭源模型的差距,就是国内模型和国外模型的差距了。 本来10月份之前,感觉开闭源直接已经无限接近了,但是Google的Gemini3.0 Pro属实太强了,又拉开了一些, 只能说国内也是要加油。 今年你会看到一些厂在猛猛发力, 比如快手、美团、小米, 也会发现一些慢慢掉队,我就不点名了, 变化很快,也不知道2026年,是何种情景 模型越来越大,我们还能做什么? 2025年,开源了太多模型, 基本上MoE是标配了, 模型太大,想要拉起更高的并发,MoE是一个很好的选择。 但,基础参数需要吃点太多显存,之前很多人可以做做模型训练,但现在大多只能做做测试, 即使是测试,还都大多是调用API为主。 这里就要感谢依然开源小尺寸的Qwen、面壁、智谱等等等。 说一个爆论, 相较于更大参数的模型,小模型或者端侧模型,在未来两年发展的趋势会更猛, Scaling Law告诉我们大力出奇迹,堆参数、堆训练数据,模型就会很强,但预训练数据基本上已经用的差不多了,模型一味变大的边际效应明显在变弱。 近期 Ilya 的采访估计大家都看了,Ilya表示2012 2020年是研究时代,2020 2025 年是扩展时代,2025年之后会重回研究时代。 那么,我觉得让小模型拥有大智慧,是一个会大家进行更多研究的方向。 一方面是,LLM落地会考虑成本,使用越小的模型,成本会越低;另一方面,更大模型无法取得很大突破时,以小博大是很多人直观的想法。 而且在这两年,小模型的发展其实已经很快了,之前GPT3.5的效果,应该随随便便的7B模型就能达到,甚至还会更好。 而且前一阵的豆包手机把GUI模型成为实用,但也带来一些隐私安全等问题,那么未来端侧、小模型是必须的, 端侧芯片的承载能力越来越强,端侧模型的知识密度越来越高, 此前只能在云上部署的大模型,最终一定可以用终端芯片就装得下、跑得动。 那么我们可以思考一下, 小参数模型,学习更多的数据,真的能记住吗? 长文本在端侧,如何更好的解决,需要有架构层面的创新。。 几乎已经听不到领域大模型了 2025年几乎听不到领域大模型了, 除了夸克的高考大模型、医疗大模型、百川的医疗大模型, 我就不知道其他的了, 这是一个很现实的问题, 当领域大模型打不过顶级大模型+领域知识库后,很多所谓的领域大模型已经没有意义了。 领域大模型想脱颖而出,必须要有足够的存在壁垒领域知识+丰富的领域定向任务,很多人已经做不起了,门槛变得很高。 但我一直都觉得KnowHow十分重要,即使现在的大模型很强,训练了很多数据,但我依然觉得还有很多私有数据是没有被使用到的,而这些才是深耕垂域的财富。 不过,就算是Agent,也需要找到一个领域, 才能发挥更大的价值,通用Agent如果不聚焦,感觉很难打开市场。 2026年还会有领域模型吗。。。 ToB的Agent还走不通 虽然Manus的出现,让Agent大火,各种家都在搞Agent应用, 但在真实toB上,Workflow 比 Agent 更重要,即使是在Agent大火的今年, 主要很多企业,尤其是制造业、工业,现在需要的其实很多不是AI能力,而是自动化能力, 而一般在整个自动化流程中,AI或者大模型只是其中的一环, 那么WorkFlow的模式就更适合, 当然还有很关键的因素,国内ToB,很在乎数据隔离、安全性的问题, 就导致基本上都是一些本地化的项目,模型都在30B、70B的尺寸,太大性价比很低, 那么你就会发现,其实并没有那么智能,Agent的出错概率很高,WorkFlow的可控性会更高。 还有第二个就是,大部分ToB都还在SFT,RL其实是奢望, 很多企业内部任务并没有一个准确的,好坏评价体系, 很多时候都是业务人员,测了几个问题,好了就是好了,坏了就是坏了, 无法定义一个好的奖励模型,也就没法做一个RL任务。 第三个,就是在2025年,RAG大家虽然会觉得很老、很low,毕竟都在追捧Agent, 但现在最好落地的,还是以RAG为主的知识库问答,也是企业场景里最需要的,使用率较高的, 虽然很多开源框架,从0到1很容易,但在往上全是坑点, 核心还是很多工程化内容,甚至大部分时间,你还是在做数据基建工作。 最好的AI应用是Code编程 Andrej Karpathy 在 今年 2 月提出的Vibe Coding概念之后,迅速爆火 , 同时在2025年这一年,各种Code编程工具,也是不断出现,Code编程也成了AI应用最好的方向。 本身代码就天然最适合大模型,高度结构化、语义明确、上下文边界清晰等等等。 受众也广泛、使用频次也高, 对于开发人员来说,是效率工具,之前一周开发的工作内容,现在一天就可以, 当然也让很多不熟悉代码的人,也能快速开发一个demo。 并且做AI,一定要拥抱变化 但要记住,AI是工具,打铁还需自身硬! Nano Banana和Sora2颠覆了我对生图生视频的认知 现在生图、生视频,已经到了真假难辨的程度, 以前是玩具, 现在真的可以上生产了, 而且对普通大众的要求也越来越低, 向我这种没有审美的,不怎么会描述的人, 用Nano Banana Pro,都可以生成很好的图, 而且,前段时间,AI PPT,也是因为Banana又翻火了, 图像生成模型的知识理解能力已经超级强了, 不得不说,Google还是你谷歌, Nano Banana算是今年超预期、颠覆性的模型吧。。。 最后 2025年,太卷了, 但这一整年,过的确实很充实。 Flag时刻,希望2026年能有一篇10w+的文章吧,哈哈哈 真是,见面亲三分,就你很难想想在屏幕后面的是一个怎样的人, 好多人,没见我之前,以为我是那种40+的,老古董, 见了之后,才知道我是个rapper。。。 哈哈哈。 今年公众号,也从“NLP工作站”改成“刘聪NLP”, 这样全网ID,都一样了,再也不会迷路了,哈哈哈。 接下来,说说这一年下来的一些感受吧,也有一些期待, 开源模型是国内是Top1了! 重点感谢DeepSeek和Qwen吧, DeepSeek改变了国内大模型的格局,之前各大厂商,基本上是只开源小模型,最顶级的模型基本上是闭源的, DeepSeek开源V3、R1之后, 带动智谱、Kimi、混元、文心、MiniMax等等等等,都开源了顶级模型,也就是最好的, 虽然开的模型越来越大,但是极大的推动了开源社群的发展。 当然我最爱的Qwen,依旧坚持不懈的开源,今年Qwen3整个系列的模型 ,从纯文本、到VLM、到Omini,还有Image等等等等, 还是那个Qwen,很全、很顶, 之前学术界都是用Llama还实验,现在应该清一色都是Qwen了, 并且,自从Llama4陨落之后,国外基本上也没啥太多开源模型了, 可以说, 基本上开源模型和闭源模型的差距,就是国内模型和国外模型的差距了。 本来10月份之前,感觉开闭源直接已经无限接近了,但是Google的Gemini3.0 Pro属实太强了,又拉开了一些, 只能说国内也是要加油。 今年你会看到一些厂在猛猛发力, 比如快手、美团、小米, 也会发现一些慢慢掉队,我就不点名了, 变化很快,也不知道2026年,是何种情景 模型越来越大,我们还能做什么? 2025年,开源了太多模型, 基本上MoE是标配了, 模型太大,想要拉起更高的并发,MoE是一个很好的选择。 但,基础参数需要吃点太多显存,之前很多人可以做做模型训练,但现在大多只能做做测试, 即使是测试,还都大多是调用API为主。 这里就要感谢依然开源小尺寸的Qwen、面壁、智谱等等等。 说一个爆论, 相较于更大参数的模型,小模型或者端侧模型,在未来两年发展的趋势会更猛, Scaling Law告诉我们大力出奇迹,堆参数、堆训练数据,模型就会很强,但预训练数据基本上已经用的差不多了,模型一味变大的边际效应明显在变弱。 近期 Ilya 的采访估计大家都看了,Ilya表示2012 2020年是研究时代,2020 2025 年是扩展时代,2025年之后会重回研究时代。 那么,我觉得让小模型拥有大智慧,是一个会大家进行更多研究的方向。 一方面是,LLM落地会考虑成本,使用越小的模型,成本会越低;另一方面,更大模型无法取得很大突破时,以小博大是很多人直观的想法。 而且在这两年,小模型的发展其实已经很快了,之前GPT3.5的效果,应该随随便便的7B模型就能达到,甚至还会更好。 而且前一阵的豆包手机把GUI模型成为实用,但也带来一些隐私安全等问题,那么未来端侧、小模型是必须的, 端侧芯片的承载能力越来越强,端侧模型的知识密度越来越高, 此前只能在云上部署的大模型,最终一定可以用终端芯片就装得下、跑得动。 那么我们可以思考一下, 小参数模型,学习更多的数据,真的能记住吗? 长文本在端侧,如何更好的解决,需要有架构层面的创新。。 几乎已经听不到领域大模型了 2025年几乎听不到领域大模型了, 除了夸克的高考大模型、医疗大模型、百川的医疗大模型, 我就不知道其他的了, 这是一个很现实的问题, 当领域大模型打不过顶级大模型+领域知识库后,很多所谓的领域大模型已经没有意义了。 领域大模型想脱颖而出,必须要有足够的存在壁垒领域知识+丰富的领域定向任务,很多人已经做不起了,门槛变得很高。 但我一直都觉得KnowHow十分重要,即使现在的大模型很强,训练了很多数据,但我依然觉得还有很多私有数据是没有被使用到的,而这些才是深耕垂域的财富。 不过,就算是Agent,也需要找到一个领域, 才能发挥更大的价值,通用Agent如果不聚焦,感觉很难打开市场。 2026年还会有领域模型吗。。。 ToB的Agent还走不通 虽然Manus的出现,让Agent大火,各种家都在搞Agent应用, 但在真实toB上,Workflow 比 Agent 更重要,即使是在Agent大火的今年, 主要很多企业,尤其是制造业、工业,现在需要的其实很多不是AI能力,而是自动化能力, 而一般在整个自动化流程中,AI或者大模型只是其中的一环, 那么WorkFlow的模式就更适合, 当然还有很关键的因素,国内ToB,很在乎数据隔离、安全性的问题, 就导致基本上都是一些本地化的项目,模型都在30B、70B的尺寸,太大性价比很低, 那么你就会发现,其实并没有那么智能,Agent的出错概率很高,WorkFlow的可控性会更高。 还有第二个就是,大部分ToB都还在SFT,RL其实是奢望, 很多企业内部任务并没有一个准确的,好坏评价体系, 很多时候都是业务人员,测了几个问题,好了就是好了,坏了就是坏了, 无法定义一个好的奖励模型,也就没法做一个RL任务。 第三个,就是在2025年,RAG大家虽然会觉得很老、很low,毕竟都在追捧Agent, 但现在最好落地的,还是以RAG为主的知识库问答,也是企业场景里最需要的,使用率较高的, 虽然很多开源框架,从0到1很容易,但在往上全是坑点, 核心还是很多工程化内容,甚至大部分时间,你还是在做数据基建工作。 最好的AI应用是Code编程 Andrej Karpathy 在 今年 2 月提出的Vibe Coding概念之后,迅速爆火 , 同时在2025年这一年,各种Code编程工具,也是不断出现,Code编程也成了AI应用最好的方向。 本身代码就天然最适合大模型,高度结构化、语义明确、上下文边界清晰等等等。 受众也广泛、使用频次也高, 对于开发人员来说,是效率工具,之前一周开发的工作内容,现在一天就可以, 当然也让很多不熟悉代码的人,也能快速开发一个demo。 并且做AI,一定要拥抱变化 但要记住,AI是工具,打铁还需自身硬! Nano Banana和Sora2颠覆了我对生图生视频的认知 现在生图、生视频,已经到了真假难辨的程度, 以前是玩具, 现在真的可以上生产了, 而且对普通大众的要求也越来越低, 向我这种没有审美的,不怎么会描述的人, 用Nano Banana Pro,都可以生成很好的图, 而且,前段时间,AI PPT,也是因为Banana又翻火了, 图像生成模型的知识理解能力已经超级强了, 不得不说,Google还是你谷歌, Nano Banana算是今年超预期、颠覆性的模型吧。。。 最后 2025年,太卷了, 但这一整年,过的确实很充实。 Flag时刻,希望2026年能有一篇10w+的文章吧,哈哈哈 🔗 原文链接: https://mp.weixin.qq.com/s/JN7YTrGL... https://mp.weixin.qq.com/s/JN7YTrGL... 原创 刘聪NLP 刘聪NLP 刘聪NLP2025年12月28日 21:22 江苏 标题已修改 大家好,我是刘聪NLP。 又到了一年的结尾, 2025年即将结束 ,回想这一年,也是蛮梦幻的。 去年,2024年底的时候,本以为2025年的大模型要沉沦了, 毕竟LLM的落地都没有那么理想,当时还是为RAG为主,模型智能的上限貌似已经看到 。 万万没想到年初, DeepSeek R1,一顿狂轰乱炸 ,大模型这一摊水,又激活了, 那几个小模型一放,发现原来数据蒸馏之后小模型仅SFT就能think,可以提高很多,当然Zero R1,对于学术来说的意义更大。 还有Manus,直接又把Agent推向高潮, 但Agent一整年下来,真实应用场景并不好,不过年底的 豆包手机 确实让我们都大吃一惊,直接让GUI模型推到了可实用的位置, 虽然后面一系列隐私问题的发酵,也让我们意识到,端侧模型的发展的重要性。 今年这一年的大模型更新节奏,要比之前要更快,整个AI圈都很卷, 可是,你现在回想,依旧印象深刻的模型、产品、又是哪些呢? 欢迎评论区评论。 对于我个人来说, 2025年上半年, 应该是大部分时间在研究R1和MCP改造了吧, RL之前做的也少,当时也觉得没有那么必要,毕竟DPO盛行, DS确实给我们上了一课,在小模型上复现Zero R1的aha moment,也蛮有意思, 不过,最大的成绩,应该是 开源中文DeepSeek R1(满血)蒸馏数据集 110K , 开源中文DeepSeek R1(满血)蒸馏数据集 110K 当时HuggingFace和ModelScope上都上了趋势榜,而且还是数据模块第一, 数据也被ms swift、llamafactory等微调框架使用, 还是蛮开心的,也是给开源尽了一份力。 我也聊过很多大厂在做LLM研究的,大多数还是在本本分分的搞数据, 一句话总结,谁还不是个臭搞数据的呀 毕竟,从无限数据转向有限数据的时代, 对于post training的数据要求其实更高。 还有MCP,也是爆火一时, 但其实在24年11月份就提出来了,不过是在Manus火起来之后,MCP也随之大火, 当时给公司的一些工具、服务,都改造成了MCP的格式, 也是弄了一段时间的Agent, 由于是做tob的,这agent真不可控,强制训练出来的内容,跟workflow也相差无几。 还有,Anthropic的每一篇agent相关blog,是一定要好好看一看的。 下半年, 就是在大模型应用落地方面做了一些工作,就是不断尝试着新模型,不断在业务上进行效果验证。 对外输出的,主要还是大模型的评测,我也是从7月开始就一直整理着国内开源模型, • 7月开源模型汇总 7月开源模型汇总 • 8月开源模型汇总 8月开源模型汇总 • 9月开源模型汇总 9月开源模型汇总 • 10月开源模型汇总 10月开源模型汇总 • 11月开源模型汇总 11月开源模型汇总 PS:12月份的等31号整理完就发。 同时整个一年都 被vibe coding在围绕 ,真的大大缩短了开发时间,即使你不擅长的语言,交给AI就好了, 不过打铁还需自身硬,内核终究还是你自己。 说到内核,在下半年严重感觉到自己摄入不足,没那多点子了。 今年最开心的,还面基了很多朋友,获得了2024年新知答主称号,见了很多知乎好友,也参加了卡子举办的活动。