显存降 96.2%、5026 页《四大名著》一镜到底:百度开源 Unlimited OCR 2
先看数字。
2026-10-27,百度开源文档解析模型第二代 文心 Unlimited OCR 2(总参数 3B、推理激活 500M)。核心数字:
- MarathonDocBench(103–300 页长文档基准)77.06 分第一,第二名 33.74 分(2.3 倍以上);
- MPDocBench 84.59 分榜首(图表口径 +6.3);
- 5026 页《四大名著》一镜到底(8364 秒、跨页合并 3331 处);
- KV 峰值显存 47.00GB → 1.77GB(-96.2%);16 路并发吞吐 360 → 1315 TPS(3.65×);单步解码比全注意力快 7.0×(比一代 R-SWA 快 5.6×)。
结论前置:这个模型的核心不是「更大参数」,而是让长文档解析不再付全注意力的钱——把视觉参考集压成固定常数(工作参考集约 512 tokens),KV 缓存「边读边扔」。但以上数字多数来自厂商+媒体联测(自证性质),「1000 万下载」是一代以来累计口径;第三方 1001 页压测(B 站 UP「小天 fotos」)已交叉核验一次:速度恒定、后段不退化成立(2.77 秒/页),同时暴露两类结构失败(相似表格被误合并、代码缩进丢失)。
一、长文档为什么读不动:全注意力是「每步都重算」
先说根因(来源文中的论证):PDF 每页会炸出上千个视觉 token,标准全注意力下每写一个字都要重算前面所有页的视觉 token——文档从 2 页到 100 页,单步解码延迟从 3ms 暴涨到 27ms。上下文窗口大 ≠ 能读长文档。
Unlimited OCR 2 的答案是两段式稀疏化 + 无限解码:
SR-SWA(稀疏参考滑动窗口注意力),两步走:
- Page Gate(页面门控):把视野从几千页收缩到少数候选页;
- Token Sieve(Token 筛子):在候选页内实时打分,只保留最相关的视觉块。
关键在路由打分直接参与前向计算、端到端回传(不是「蒸馏模仿」式稀疏化),每步计算的视觉信息量被限制在固定常数——官方 README 明确把 text-visual 交互压缩到固定大小的工作参考集(如 512 tokens)。
无限解码(Unlimited-Horizon Decoding):
- 超长文档按窗口依序推进,相邻窗口之间只留一页「交接页(Boundary Page)」直接复用 KV 缓存,保证翻页处的断句、续表不断流;
- 当前窗口转录完毕,历史窗口的缓存立即从显存物理释放——「边读边扔」。
落到工程数据就是上面的显存/吞吐/提速数字。
二、官方「魔鬼实测」与第三方交叉核验
官方 demo(厂商+媒体联测,自证性质,引用时注明口径):
- 3623 页《哈利·波特》七部曲 1.5 小时一镜到底(平均 1.5 秒/页、无断片;一代极限只有 40 多页);
- 5026 页《四大名著》一镜到底(8364 秒、跨页合并 3331 处、第 5026 页输出正确;另用 240 页 17.3 万字长卷埋 32 个陷阱——形近字「叶文清」、篡改页码——全部按纸面原样揪出);
- 300 页酒店总账:3000 笔流水 + 176 笔负数冲销,9000 个数字字段无串列,总净额 9,258,968.05 元精确到分、0 漏项。
第三方 1001 页压测(B 站 UP「小天 fotos」,2026-10-27 18:19 入库存档,该模型簇的首条弱第三方验证):
- UP 主自制 1001 页 PDF(含六类跨页难题),46 分 10 秒跑完,平均 2.77 秒/页(官方口径 1.5 秒/页是 A800 环境,硬件差异下慢约 1.8 倍,结论一致);
- 速度恒定、后段不退化:同样的难题放到文档末尾,结果不变;
- 两类结构失败:长得像但不同的表格被误合并(东馆/西馆卷宗登记示例)、代码缩进丢失(
def __init__示例); - 319 处跨页续接点全部有标记,但 UP 主自标「有标记 ≠ 全接对」。
反面提醒
- 「1000 万下载」是累计口径:自 2026-06-22 一代首发以来的累计下载量,不是本模型单独口径。
- 「双第一」各行口径:本文 MPDocBench 84.59 与库内阿里 Logics-Parsing-V3 的 85.26(MPDocBench-Parse 子项)冲突;在独立第三方对齐同一评测集之前,别下「谁超过谁」的结论。
- 「有标记 ≠ 全接对」:1001 页压测显示,跨页续接的标记只是必要条件,不是充分条件。
- HuggingFace 模型页待核验:库内直连不通(标 #TODO),GitHub 仓库已核验(28,843★ / MIT / 10-27 推送二代)。
- 推理引擎选择:Transformers 仅快速测试用,SGLang 为推荐服务引擎;工程细节含 crop_mode(gundam 分块/base)与 n-gram 防重复(NoRepeatNGramLogitProcessor)。
口径卡
| 数字 | 口径 |
|---|---|
| -96.2% | KV 峰值显存 47.00GB → 1.77GB,单序列峰值(厂商工程数据) |
| 360 → 1315 TPS(3.65×) | 16 路并发吞吐(厂商工程数据) |
| 7.0× / 5.6× | 单步解码提速:vs 标准全注意力 7.0×、vs 一代 R-SWA 5.6× |
| 77.06 / 33.74 / 26.97 | MarathonDocBench(103–300 页)厂商+媒体联测(自证性质);Gemini-3.1-Pro 仅 26.97 分 |
| 84.59 | MPDocBench 榜首(厂商联测);与库内阿里 Logics-Parsing-V3 的 85.26(MPDocBench-Parse 子项)口径不同,不可直接比 |
| 5026 页 / 8364 秒 / 3331 处 | 厂商 demo:《四大名著》一镜到底;3623 页哈利·波特 1.5 小时(1.5 秒/页,A800 环境) |
| 9,258,968.05 元 | 300 页酒店总账总净额:3000 笔流水 + 176 笔负数冲销,精确到分、0 漏项 0 串列(厂商 demo) |
| 2.77 秒/页 | 第三方 1001 页压测(B 站「小天 fotos」,硬件未披露);比官方 1.5 秒/页慢约 1.8 倍(硬件差异) |
| 1000 万下载 | 一代(2026-06-22 首发)以来累计下载口径,非本模型口径 |
来源:新智元《刚刚,百度开源再拿全球第一!1000 万下载神作杀回来了》(2026-10-27 发布);开源仓库 baidu/Unlimited-OCR(28,843★ / MIT / 2026-10-27 推送二代);模型权重 baidu/Unlimited-OCR-2(待核验)。第三方压测:B 站视频(BV1SfxT6KEKb,UP「小天 fotos」,7 分 25 秒)。
延伸阅读:
- 6 万人「自愿离职」,微软却把算力预算加到 500 亿:说 AI 泡沫要破的人,看错了仪表盘——AI 算力投入的跨公司对照
- 90% 的代码不是人写的:Anthropic S-1 招股书里的三个硬数字——「AI 造 AI」的个体侧印证