AI 界的大谎言？DeepSeek-OCR 告诉你使用 Tokenizers 全错了！用图像来表达效果更好

AI_小站

墨衍会员 · AI 创作全网分发码龄3年

关注

原创最新推荐文章于 2026-11-10 00:57:14 发布 711 阅读 AI 写同款· GEO 优化 ›

「文智助手」全场景办公AI助理AI+OPC全流程实践方案（大赛作品）阅读详情

DeepSeek 近期发布了他们的新模型和相关论文。说实话，这次发布的 DeepSeek-OCR 多少有点出乎大家意料，但鉴于 DeepSeek 团队发布的作品向来都是大事件，想谈谈自己的看法。

他们探索的是视觉编码器如何能提升大模型（LLMs）处理和压缩文本信息的效率。而得出的结论是，把文本“画”成图像，再把图像喂给模型，比直接用文本分词器的效率要高得多。

我的第一感觉是：这听起来既低效又不靠谱。按理说，应该不如直接使用文本分词器（比如 BPE 或 Byte Latent Transformer）来处理输入。这让我想起多年前看到的一个研究方向，那时候研究人员用 3D 或 2D 图像来表示 3D 分子，而不是使用图神经网络。那种做法不应该好用，而且容易过拟合。

那么，DeepSeek-OCR 为什么会尝试这种方法呢？我猜最初可能只是出于好奇，但很快他们可能就意识到，这也许是解决 LLM 长上下文问题、并降低其成本的一个有趣思路——通过视觉标记（Vision Tokens）来压缩信息。（都说一图胜千言，谁能想到一张文本的图片能比文字本身更高效地表达 1000 个词呢！）

不管出于什么原因，DeepSeek-OCR 的这个方法最终表现得出奇地高效。具体来说，在长上下文解码精度固定为 97% 的前提下（即模型压缩和重建信息的能力），**OCR 版本所需的视觉标记数量比文本标记足足少了 10 倍。**也就是说，文本的图像版本信息压缩效率比纯文本高了十倍。

它与其他视觉大模型（VLLM）架构的不同之处在于：

他们没有采用笨重的 ViT（Vision Transformer）作为编码器，而是通过一个巧妙的 16 倍卷积压缩器来融合局部和全局视觉特征。（这使得模型能够高效地处理高分辨率输入，同时降低内存占用和 Token 数量）。
据我所知，他们也是首批使用 **MoE（专家混合）**作为解码器的团队。

我个人认为，这是一个非常有趣且大胆的一次尝试，而它能取得惊人效果，就是最大的亮点。

当然，我并不认为文本的视觉表示能彻底解决 LLM 的所有限制。尽管很多人不喜欢 BPE 这类文本分词器，但图像表示也同样麻烦（必须处理宽高比、分辨率、裁剪、亮度等各种问题）。不过，这确实是个好点子。如果它对普通的黑白文本都更高效，那我很好奇，如果我们给代码加上语法高亮的颜色，压缩率会不会更高？

尤其对于代码来说，这种方法可能是一个非常有价值的替代方案，因为传统的分词器在处理空格和子词分词方面一直存在挑战。（特别是当代码中使用了大量自定义变量名，这些词汇不在词汇表中，必须被拆分成许多单独的子词标记时，问题更为突出。）

用图像来编码文本这个概念实在是太**剑走偏锋（esoteric）**了，它出色的表显大大出乎我们的意料，也许它只适用于超长文档或 OCR、代码等特殊领域，而非用于通用语言建模。

想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2025 年 AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！

👇👇扫码免费领取全部内容👇👇