Unbegrenzte OCR 2: Analysieren Sie ein ganzes PDF in einer Anfrage. sogar auf einer 16-GB-GPU

Unlimited OCR 2 analysiert ein ganzes PDF in einer Anfrage und verfolgt Text und Tabellen, die über einen Seitenumbruch hinausgehen. Schalten Sie die Seitenkacheln aus und ein 59-seitiger Steuerführer erscheint in 3 Minuten und 44 Sekunden auf einer RTX 4090, 4,2 % Rabatt auf den PDF-eigenen Text, bei gleicher Qualität auf einer 16-GB-Karte. Wir haben Baidus MIT-lizenzierten Dokumentenparser (3 Milliarden MoE, etwa 0,5 Milliarden aktive Parameter) auf InferenceKey Cloud als benutzerdefiniertes Python-Backend bereitgestellt, auf dem der eigene SGLang-Build der Autoren ausgeführt wird, und ihm IRS-Publikation 15 (59 Seiten, gemeinfrei) in einer gestreamten Anfrage gesendet. Was wir gemessen haben (eine RTX 4090, 24 GB): – Eine Ansicht pro Seite (crop_mode=false): 59 Seiten bei 15,8 Seiten/Min., erster Text nach 3,3 s, 4,2 % Bearbeitungsabstand zum PDF-Text über die gesamte Anleitung – Standardseitenkacheln der Autoren: 8,7 Seiten/Min. und die lange Tabelle auf den Seiten 46 bis 54 ist kaputt: acht Zeilen in einer Zelle zusammengequetscht, ein Satz wiederholt 1.508 Mal, leere Seiten danach (38,1 % insgesamt, 2,4 % außerhalb der Tabelle) – Seiten 46 bis 54 allein: 28 Sekunden durchgehend mit einer Ansicht pro Seite, jede Fortsetzungsseite als Teil derselben Tabelle markiert – Ein Fenster für das gesamte Dokument anstelle von Fenstern mit 10 Seiten: Treffen Sie den 131.072-Token-Kontext und stoppen Sie auf Seite 27, 50,3 Sekunden bis zum ersten Text – Speicher: Spitzenwert 19,4 GB beim 4090; Ein echter 16-GB-RTX-2000-Ada analysierte den gesamten Leitfaden mit der gleichen Qualität (4,23 % gegenüber 4,18 %) bei 13,8 GB Spitze, 5,6 Seiten/Min., etwa 2,8-mal langsamer. Die Benchmark-Werte und die Wiedergabe des gesamten Romans im Video stammen von den Autoren und werden nicht von uns reproduziert. Unsere Zahlen stammen aus einem Dokument, nicht aus einem Benchmark. Vollständiger Bericht: https://inferencekey.com/research/unlimited-ocr-2-whole-book-parsing SDK-Beispiel: https://github.com/inferencekey/inferencekey-sdk/tree/main/examples/unlimited-ocr-2-pdf-parsing-custom-backend-private-nvidia Dokumente: https://docs.inferencekey.com 00:00 Eine lange Steuertabelle, analysiert in 28 s 00:18 Was ist Unlimited OCR 2? 01:09 Überlebt eine Tabelle den Seitenumbruch? 02:40 Wie klein ist eine Karte?