闲聊—100万亿Tokens分析报告
闲聊—100万亿Tokens分析报告
闲聊—100万亿Tokens分析报告 闲聊—100万亿Tokens分析报告 Modified January 22 🔗 原文链接： https://mp.weixin.qq.com/s/qhcmC3fz... 今日地铁Time， 前两天应该都被OpenRouter & a16z的100万亿Tokens分析报告刷屏了吧， 一些结论蛮有意思的，我们来聊聊！ 原文：https://openrouter.ai/state of ai 先说一个最明显的趋势， 国内开源模型用量激增，2024年低占比仅为1.2%，2025 年末飙升至30% 要感谢DeepSeek， 因为之前国内的开源模型，还以中小模型为主，大多用处是本地部署， DeepSeek一波开源，先是效果好，然后这么大真不是一般人能部署的了的， 重要的是带动了国内智谱、Kimi、MiniMax，原来没开源的，都开源了， 而且开的都是顶级模型，这是生态层面的变化，respect 报告里一个有个很反直觉的点，开源模型中使用量最多的是角色扮演（超过 50%）和代码（约 20%）， 看上去很夸张，不过要注意它统计的是 Token 消耗，而不是调用次数。 角色扮演和编程任务本身就需要超长上下文，Token自然消耗得快， 我做过一阵子剧本角色扮演的产品，Token用量确实是很夸张的， 但如果换成调用次数统计，我依然觉得知识问答、翻译、这些才是日常场景高频的场景。欢迎打脸 另外，被媒体解读得很多的观点是小模型（小于15B）使用占比下降， 但你不能说小模型已死吧。。。。 我觉得，站在API提供方的角度，确实小模型的市场会越来越小， 但这恰巧是对于小模型的发展越来越看重，我之前写过一篇，大模型边际效应下降，小模型正在悄悄逆袭， 小模型本身越来越智能，才会有更多的人会选择本地部署， 而且随着端侧设备的不断发展，小模型调用api的意义也会越来越小，所以要理性看待一些结论。 最有意思的分析是“灰姑娘水晶鞋”现象，就是用户如果适应了一个模型之后（模型满足了用户需求），留存时间会很长，即使后面有其他模型也能满足，所以AI时代，先发优势很重要。 我自己就是这种典型用户，我常开的几个页面，Kimi、Qwen、ChatGPT、Gemini， Kimi 用来看论文，Qwen 用来处理截图和多模态理解，ChatGPT和Gemini轮流解决对话和写材料的问题 一个解决我看论文的需求，一个解决多模态截图的需求，另外两个是对话和写材料。 虽然其他模型会用，但不会频繁切换，因为习惯已经形成，懒得换了。 最后就到这里了， 因为马上下车了，哈哈哈哈 https://mp.weixin.qq.com/s/qhcmC3fz... 大模型边际效应下降，小模型正在悄悄逆袭 🔗 原文链接： https://mp.weixin.qq.com/s/qhcmC3fz... https://mp.weixin.qq.com/s/qhcmC3fz... 今日地铁Time， 前两天应该都被OpenRouter & a16z的100万亿Tokens分析报告刷屏了吧， 一些结论蛮有意思的，我们来聊聊！ 原文：https://openrouter.ai/state of ai 先说一个最明显的趋势， 国内开源模型用量激增，2024年低占比仅为1.2%，2025 年末飙升至30% 要感谢DeepSeek， 因为之前国内的开源模型，还以中小模型为主，大多用处是本地部署， DeepSeek一波开源，先是效果好，然后这么大真不是一般人能部署的了的， 重要的是带动了国内智谱、Kimi、MiniMax，原来没开源的，都开源了， 而且开的都是顶级模型，这是生态层面的变化，respect 报告里一个有个很反直觉的点，开源模型中使用量最多的是角色扮演（超过 50%）和代码（约 20%）， 看上去很夸张，不过要注意它统计的是 Token 消耗，而不是调用次数。 角色扮演和编程任务本身就需要超长上下文，Token自然消耗得快， 我做过一阵子剧本角色扮演的产品，Token用量确实是很夸张的， 但如果换成调用次数统计，我依然觉得知识问答、翻译、这些才是日常场景高频的场景。欢迎打脸 另外，被媒体解读得很多的观点是小模型（小于15B）使用占比下降， 但你不能说小模型已死吧。。。。 我觉得，站在API提供方的角度，确实小模型的市场会越来越小， 但这恰巧是对于小模型的发展越来越看重，我之前写过一篇，大模型边际效应下降，小模型正在悄悄逆袭， 小模型本身越来越智能，才会有更多的人会选择本地部署， 而且随着端侧设备的不断发展，小模型调用api的意义也会越来越小，所以要理性看待一些结论。 最有意思的分析是“灰姑娘水晶鞋”现象，就是用户如果适应了一个模型之后（模型满足了用户需求），留存时间会很长，即使后面有其他模型也能满足，所以AI时代，先发优势很重要。 我自己就是这种典型用户，我常开的几个页面，Kimi、Qwen、ChatGPT、Gemini， Kimi 用来看论文，Qwen 用来处理截图和多模态理解，ChatGPT和Gemini轮流解决对话和写材料的问题 一个解决我看论文的需求，一个解决多模态截图的需求，另外两个是对话和写材料。 虽然其他模型会用，但不会频繁切换，因为习惯已经形成，懒得换了。 最后就到这里了， 因为马上下车了，哈哈哈哈 大模型边际效应下降，小模型正在悄悄逆袭