DeepSeek OCR的高OCR准确率,全是幻觉?
DeepSeek OCR的高OCR准确率,全是幻觉?
DeepSeek OCR的高OCR准确率,全是幻觉? DeepSeek OCR的高OCR准确率,全是幻觉? Modified January 22 今天刷到一篇中科大的论文,我上面说的3个点,基本上都是证明了, 视觉压缩长文本还需要进一步深度研究。 Code block Plain Text https://arxiv.org/abs/2601.03714 VLM的模型,在OCR上,其实存在缺陷,在零先验随机文本上的效果会大幅度下降,说明大部分VLM依赖LLM部分的语义理解。 针对句子的语义破坏(将其中关键名词、动词和短语替换),准确率会下降,生产合理词汇; 在高压缩率下尤为明显,Tiny、Small、Base 分别平均下降11.2%、3.6%、0.6%。 说明,高视觉分辨率可以降低对VLM模型对LLM的依赖。 针对词级别破坏,零先验随机文本上,效果暴跌。 对比13 个OCR和VLM模型发现,VLM模型普遍存在依赖LLM的现象。 所以,就像我之前说的,纯分析解码的精度会过于草率,也许高压缩率的效果是因为LLM部分脑补的视觉信息。 PS:OCR用专门的OCR模型会更权威。 同时,实验发现,DeepSeek OCR,在Tiny模式下6k tokens左右开始崩溃,Small模式在10.5k tokens时崩溃,Base/Large模式在8.5k tokens左右崩溃。 跟我说的一样,正常LLM可能在128K出坍塌,而视觉压缩Token虽然承载信息更大,但坍塌的会越早。 论文还验证了DeepSeek OCR的QA和VQA的能力,很差,说明信息的Token压缩,但对于后续使用,并不一定信息丢失的就少。 不过这一点,可能是DeepSeek OCR没有在专门VQA数据上训练导致。 最后, 视觉的信息压缩论, 就像我之前说的,DeepSeek OCR只是给了一个展望, 具体的还有很多坑要走。 大家有其他想法,欢迎评论区讨论 今天刷到一篇中科大的论文,我上面说的3个点,基本上都是证明了, 视觉压缩长文本还需要进一步深度研究。 VLM的模型,在OCR上,其实存在缺陷,在零先验随机文本上的效果会大幅度下降,说明大部分VLM依赖LLM部分的语义理解。 针对句子的语义破坏(将其中关键名词、动词和短语替换),准确率会下降,生产合理词汇; 在高压缩率下尤为明显,Tiny、Small、Base 分别平均下降11.2%、3.6%、0.6%。 说明,高视觉分辨率可以降低对VLM模型对LLM的依赖。 针对词级别破坏,零先验随机文本上,效果暴跌。 对比13 个OCR和VLM模型发现,VLM模型普遍存在依赖LLM的现象。 所以,就像我之前说的,纯分析解码的精度会过于草率,也许高压缩率的效果是因为LLM部分脑补的视觉信息。 PS:OCR用专门的OCR模型会更权威。 同时,实验发现,DeepSeek OCR,在Tiny模式下6k tokens左右开始崩溃,Small模式在10.5k tokens时崩溃,Base/Large模式在8.5k tokens左右崩溃。 跟我说的一样,正常LLM可能在128K出坍塌,而视觉压缩Token虽然承载信息更大,但坍塌的会越早。 论文还验证了DeepSeek OCR的QA和VQA的能力,很差,说明信息的Token压缩,但对于后续使用,并不一定信息丢失的就少。 不过这一点,可能是DeepSeek OCR没有在专门VQA数据上训练导致。 最后, 视觉的信息压缩论, 就像我之前说的,DeepSeek OCR只是给了一个展望, 具体的还有很多坑要走。 大家有其他想法,欢迎评论区讨论 🔗 原文链接: https://mp.weixin.qq.com/s/PA2yLcSp... https://mp.weixin.qq.com/s/PA2yLcSp... 原创 刘聪NLP 刘聪NLP 刘聪NLP2026年1月14日 22:46 江苏 大家好,我是刘聪NLP。 还记得前段时间爆火的DeepSeek OCR吗? 我当时也是连写两篇文章, DeepSeek OCR模型论文详解 、 DeepSeek OCR与PaddleOCR的实测对比 。 DeepSeek OCR模型论文详解 DeepSeek OCR与PaddleOCR的实测对比 当时各种文本已死,视觉当立,我也是醉了 我还提了三个观点,如下: