無限 OCR 2：即使在 16 GB GPU 上，也能在一個請求中解析整個 PDF

Unlimited OCR 2 在一次請求中解析整個 PDF，並追蹤跨分頁符號的文字和表格。關閉頁面圖塊，在一台 RTX 4090 上 3 分 44 秒即可返回 59 頁的稅務指南，比 PDF 本身的文字節省 4.2%，在 16 GB 卡上具有相同的品質。我們在 InferenceKey Cloud 上部署了百度 MIT 許可的文檔解析器（3B MoE，大約 0.5B 活動參數）作為運行作者自己的 SGLang 構建的自定義 Python 後端，並通過一個流式請求向其發送 IRS Publication 15（59 頁，公共域）。我們測量的內容（一台 RTX 4090，24 GB）： - 每頁一次查看 (crop_mode=false)：59 頁，15.8 頁/分鐘，第一個文字在 3.3 秒後，整個指南中 PDF 文字的編輯為 4.2% - 作者的預設頁面圖塊：8.76/分鐘，第 8.74 54 34頁的長表格破裂：八行擠進一個單元格，一個句子重複1,508 次，後面有空頁（總體佔 38.1%，遠離表格 2.4%） - 僅第 46 至 54 頁：每頁一個視圖從頭到尾需要 28 秒，每個延續頁面標記為同一個表格的一部分 - 整個文檔在第一個位置頁，距離第一個文字 50.3 秒 -記憶體：4090 最高可達 19.4 GB；真正的 16 GB RTX 2000 Ada 以相同的質量（4.23% 與 4.18%）以 13.8 GB 峰值、5.6 頁/分鐘解析 4.18%）以 13.8 GB 的峰值、5.6 頁/分鐘解析不計算作者，整部影片中的數據重了約 2.8 倍。我們的數字來自一份文件，而不是基準。完整文章：https://inferencekey.com/research/unlimited-ocr-2-whole-book-parsing SDK 範例：https://github.com/inferencekey/inferencekey-sdk/tree/main/examples/unlimited-ocr-2-pdf-parsing-sdk/tree/main/examples/unlimited-ocr-2-pdf-parsing-sdk/tree/main/examples/unlimited-ocr-2-pdf-parsing-sdk/tree/main/examples/unlimited-ocr-2-pdf-parsing-sdk/tree/一個長稅表，解析為28 s 00:18 什麼是無限 OCR 2？ 01:09 表格在分頁符號後還能存活嗎？ 02:40 一張卡有多小？