Paperless-ngx mit lokaler KI: Ollama einrichten, paperless-gpt und die passende GPU

Paperless-ngx mit KI ab Version 3 und lokalem Modell

Paperless-ngx 3 kann gescannte Dokumente mit einem Sprachmodell automatisch verschlagworten, Titel, Korrespondenten, Dokumenttypen, Speicherpfade und Daten vorschlagen und in einem Chat Fragen zu Ihrem Archiv beantworten, mit Links auf die Quelldokumente. Beides läuft mit einem Modell im eigenen Büro, wenn Paperless an Ollama auf einer Workstation mit NVIDIA-GPU angebunden ist. Für das Archiv eines kleinen Büros reicht nach unserer Schätzung eine RTX PRO 4000 Blackwell mit 24 GB; größere Archive und bessere Antworten verlangen eine Karte mit 48 GB.

Paperless-ngx ist ein quelloffenes Dokumentenmanagementsystem unter der Lizenz GPL-3.0. Es nimmt Scans, PDFs und E-Mail-Anhänge an, erkennt den Text mit OCRmyPDF und legt alles in einem durchsuchbaren Archiv ab. Dokumente kommen über einen überwachten Ordner, in den ein Scanner schreiben kann, per Upload im Browser, über die REST-API oder aus E-Mail-Konten, die Paperless standardmäßig alle 10 Minuten abruft. Seit Jahren sortiert es Dokumente mit einem Klassifikator: einem kleinen Machine-Learning-Modell, das aus den Tags und Korrespondenten lernt, die Sie von Hand vergeben.

Mit Version 3 kommt das Sprachmodell hinzu. Die Versionshinweise nennen „Feature: Paperless AI“ für 3.0.0 vom 22. Juli 2026, eine Hauptversion mit inkompatiblen Änderungen; eine bestehende 2.x-Installation wird daher nach der v3-Migrationsanleitung des Projekts aktualisiert. Die Dokumentation beschreibt die KI-Funktionen als optional und standardmäßig ausgeschaltet; sie ersetzen den Klassifikator nicht, beide Arten von Vorschlägen können nebeneinander laufen. Das Projekt wird aktiv weiterentwickelt: Allein für Oktober 2026 nennt die Release-Seite fünf Versionen. Dieser Artikel zeigt, was die eingebaute KI leistet, wo die Erweiterungen helfen und welche Grafikkarte sie in brauchbarem Tempo betreibt. Das allgemeine Prinzip des Chats mit Firmendokumenten erklärt unser Leitfaden zu RAG auf Unternehmensdaten.

Was die eingebaute KI leistet und wo sie aufhört

Dokumentation und Quellcode beschreiben vier Funktionen. Die ersten beiden brauchen nur ein Chat-Modell; die anderen zusätzlich ein Embedding-Modell, das jedes Dokument in einen Vektor umwandelt, damit ähnliche Texte gefunden werden.

Dokumentation von Paperless-ngx (usage, advanced usage, configuration) im main-Zweig, gelesen am 30. Oktober 2026.

Der Chat hat Grenzen, die Sie kennen sollten, bevor Sie ihn Kollegen versprechen. Im aktuellen Quellcode holt jede Frage fünf Textabschnitte (CHAT_RETRIEVER_TOP_K = 5), und eine Antwort nennt höchstens drei Dokumente (MAX_CHAT_REFERENCES = 3). Jede Frage geht für sich allein an das Modell, ohne die früheren Fragen der Sitzung. Er eignet sich daher zum Nachschlagen, etwa „welcher Vertrag mit der Reinigungsfirma gilt, und wie lang ist die Kündigungsfrist“. Fragen, die jedes Dokument einer Art brauchen, etwa eine Summe über alle Rechnungen eines Jahres, gehen über das hinaus, was fünf Abschnitte abdecken.

Die Workflow-Aktion füllt nur die Felder, die Sie auswählen. Standardmäßig legt sie keine fehlenden Tags oder Korrespondenten an, überschreibt keine vorhandenen Werte und fügt Tags hinzu, ohne welche zu entfernen. Beim Auslöser „Consumption Started“ läuft sie nicht, weil der Text dann noch nicht existiert, und jedes passende Dokument schickt eine Anfrage an das Modell in die Hintergrund-Warteschlange, was bei einem großen Import andere Aufgaben verzögern kann. Benutzerdefinierte Felder gehören nicht zu ihren Zielen.

Paperless-ngx mit Ollama einrichten

Ollama ist ein Programm, das offene Modelle herunterlädt und im lokalen Netz bereitstellt. Paperless bindet es direkt an. Die Tabelle nennt die wichtigen Einstellungen, wie sie die Konfigurationsreferenz von Paperless angibt.

Konfigurationsreferenz von Paperless-ngx, main-Zweig, gelesen am 30. Oktober 2026. Mit dem Backend huggingface ist sentence-transformers/all-MiniLM-L6-v2 das voreingestellte Embedding-Modell.

Drei Entscheidungen bestimmen die Qualität. Setzen Sie das Chat-Modell ausdrücklich, damit Paperless nicht auf ein älteres Modell zurückfällt, und setzen Sie PAPERLESS_AI_LLM_OUTPUT_LANGUAGE, wenn die Vorschläge in einer bestimmten Sprache kommen sollen. Wählen Sie das Embedding-Modell vor dem ersten Index: Das Projekt-Wiki nennt den Hugging-Face-Standard eine kleine, schnelle Wahl für überwiegend englische Archive und empfiehlt für andere Archive multilingual-e5-small, multilingual-e5-base und bge-m3, ausdrücklich als Ausgangspunkte und nicht als Benchmarks. bge-m3 ist in Ollama ein Download von 1,2 GB, den die Modellseite mit mehr als 100 Arbeitssprachen beschreibt. Wechseln Sie es später, verlangt die Administrationsanleitung document_llmindex rebuild, das den Index aus allen Dokumenten neu aufbaut. Und stellen Sie die OCR-Sprachen auf Ihre Post ein: Das Beispiel der Dokumentation lautet deu+eng, mit dem Hinweis, dass Tesseract, die OCR-Engine, mit mehreren Sprachen deutlich mehr Rechenzeit braucht.

Auch die Voreinstellungen von Ollama zählen. Laut FAQ hält Ollama ein Modell nach der letzten Anfrage 5 Minuten im Speicher, lädt bis zu drei Modelle pro GPU, wenn sie hineinpassen, und bearbeitet pro Modell eine Anfrage nach der anderen, solange OLLAMA_NUM_PARALLEL nicht erhöht wird. Für ein Büroarchiv genügt das meist; für einen Chat im ganzen Unternehmen nicht, wie unser Leitfaden von Ollama auf dem PC zum KI-Server für das Unternehmen erklärt.

paperless-gpt oder paperless-ai für schlechte Scans und eigene Felder

Zwei Community-Projekte gab es schon vor der eingebauten KI, und sie schließen weiterhin Lücken. Beide verbinden sich mit demselben lokalen Modellserver.

paperless-gpt (MIT-Lizenz) liest schlechte Scans und Handschrift mit einem Vision-Modell, also einem Sprachmodell, das das Seitenbild betrachtet, und schreibt den erkannten Text zurück nach Paperless. Seine Beispiele nutzen MiniCPM-V; laut Hugging-Face-Karte ist die kommerzielle Nutzung der Gewichte von MiniCPM-V 2.6 erst nach einer Registrierung per Fragebogen frei. Wir planen deshalb mit Qwen3-VL 8B, einem Vision-Modell unter Apache 2.0 mit 6,2 GB Download in Ollama, dessen Karte Texterkennung in 32 Sprachen nennt; alternativ kann paperless-gpt Docling Server als selbst gehosteten Dienst für OCR und Konvertierung verwenden. Es füllt außerdem benutzerdefinierte Felder, also die Lücke der eingebauten KI, und bietet eine Prüfansicht, in der Mitarbeitende Vorschläge freigeben oder korrigieren. Laut README wurde es mit Paperless-ngx 2.20.x und der Beta von 3.0.0 getestet. Es hat keine eigene Anmeldung und warnt, es nicht direkt ins Internet oder in ein nicht vertrauenswürdiges Netz zu stellen.

paperless-ai (MIT) bot automatische Verarbeitung und einen Chat, bevor Version 3 beides hatte. Im Oktober 2026 steht in seinem README, dass das Repository derzeit nicht gepflegt wird. Für eine neue Installation würden wir nicht darauf setzen.

Sie können die Workstation allein bestellen, die Einrichtung von Paperless-ngx, Ollama und den Modellen allein oder beides zusammen: die Workstation mit allem fertig installiert und eingerichtet; schreiben Sie uns, wir schlagen Ihnen die beste Lösung für Ihre Aufgaben und Ihr Budget vor.

Welche GPU für Paperless-ngx mit KI

Paperless selbst, seine Datenbank und die OCR mit Tesseract laufen auf dem Prozessor. Die Grafikkarte bedient die Modelle: das Chat-Modell für Vorschläge und Chat, das Embedding-Modell für den Index und mit paperless-gpt das Vision-Modell für die OCR. Alles, was Ollama geladen hält, muss in den Speicher der Karte passen, und die Downloadgröße eines Modells ist die Untergrenze, weil jede Anfrage ihren Kontext hinzufügt.

Wir rechnen mit der Nutzer-pro-Karte-Regel aus unserem Leitfaden, wie viele Nutzer eine RTX PRO 6000 bedient: 90 Prozent des Speichers, den der Treiber meldet, abzüglich 3 GiB für die Laufzeit. Das ergibt 18,5 GiB auf einer RTX PRO 4000 mit 24 GB, 25,7 GiB auf einer RTX PRO 4500 mit 32 GB, 40,0 GiB auf einer RTX PRO 5000 mit 48 GB und 83,0 GiB auf einer RTX PRO 6000 mit 96 GB. Die Modellgrößen sind die Downloadgrößen der Ollama-Bibliothek, gelesen am 30. Oktober 2026: gemma4:12b 7,7 bis 8,0 GB, gemma4:26b 16 bis 19 GB, bge-m3 1,2 GB, qwen3-vl:8b 6,2 GB. Googles Modellkarte nennt für Gemma 4 die Lizenz Apache 2.0 und Unterstützung für mehr als 35 Sprachen ab Werk.

Unsere Schätzungen nach der Nutzer-pro-Karte-Regel, keine Messungen; Modellgrößen von ollama.com und aus unserem gpt-oss-120b-Leitfaden.

Die Rechnung für den Einstieg: 8,0 + 1,2 + 6,2 = 15,4 GB oder 14,3 GiB; von den 18,5 GiB bleiben nach unserer Schätzung etwa 4,2 GiB für den Kontext laufender Anfragen. Auf der Karte mit 48 GB belegt das größere Gemma 4 mit denselben Helfern 26,4 GB oder 24,6 GiB und lässt 15,4 GiB frei. Eine RTX PRO 4500 mit 32 GB liegt dazwischen: Sie hält gemma4:26b mit bge-m3 und 6,9 GiB Reserve, mit dem Vision-Modell dazu bleiben aber nur 1,1 GiB, zu wenig für einen stabilen Betrieb. Ohne paperless-gpt hat die Karte mit 24 GB mehr Platz für Kontext.

In der mittleren Stufe nutzt Paperless das Backend openai-like und zeigt auf einen vLLM-Server, den auch andere Werkzeuge verwenden. gpt-oss-120b belegt 60,8 GiB und lässt auf einer RTX PRO 6000 Workstation Edition oder Max-Q 22,2 GiB für den Cache, Platz für etwa 19 Gespräche mit 32.768 Token laut unserem Leitfaden zu gpt-oss-120b; jede Anfrage von Paperless mit 8.192 Token braucht ein Viertel des Caches eines solchen Gesprächs. Größere Server mit der RTX PRO 6000 Server Edition, oder eine L4 nur für Embeddings, passen, wenn Paperless ein Werkzeug unter mehreren ist, wie in unserem Leitfaden zum Embedding- und Reranker-Server für RAG.

Eine veröffentlichte Geschwindigkeitsmessung von Paperless-ngx mit lokalem Modell auf diesen Karten haben wir nicht gefunden. Das Tempo hängt von der Speicherbandbreite der Karte ab (672 GB/s bei der RTX PRO 4000, 1.344 GB/s bei der RTX PRO 5000, 1.792 GB/s bei der RTX PRO 6000 Workstation Edition), von der Modellgröße, davon, wie viele Dokumente pro Tag ankommen, und davon, ob die Vision-OCR jede Seite liest. Der Import eines Rückstands aus mehreren Jahren ist die schwerste Aufgabe: Planen Sie ihn über Nacht oder über ein Wochenende, veröffentlichte Werte in Seiten pro Sekunde finden Sie in unserem Leitfaden zu Vision-Language-Modellen für Dokumenten-KI.

Paperless-ngx mit KI sicher betreiben

Das README des Projekts ist deutlich: Paperless-ngx soll nie auf einem nicht vertrauenswürdigen Host laufen, weil die Informationen im Klartext ohne Verschlüsselung gespeichert werden. Betreiben Sie es auf einer Maschine im eigenen Gebäude oder Rack, sichern Sie es, und nutzen Sie den Befehl document_exporter, der Dokumente, Einstellungen und Datenbankinhalte für Sicherung oder Umzug exportiert.

Halten Sie den Modellserver intern. Eine native Ollama-Installation bindet sich standardmäßig an 127.0.0.1 auf Port 11434, der Ollama-Container dagegen lauscht auf allen seinen Schnittstellen; betreiben Sie ihn im selben Docker-Compose-Projekt wie Paperless, ohne Port 11434 zu veröffentlichen, dann erreicht Paperless ihn im Compose-Netz, und im Büronetz bleibt der Port zu. Das gilt ebenso für paperless-gpt, das standardmäßig auf allen Schnittstellen lauscht. Arbeiten Mitarbeitende von außen, nutzen Sie das vorhandene VPN.

Zwei Einstellungen schicken Daten nach außen. Remote-OCR ist standardmäßig aus und sendet eingeschaltet die Dokumentdateien an einen Cloud-OCR-Dienst; bei einer lokalen Installation bleibt es aus. Ein Backend openai-like mit einem Cloud-Anbieter schickt den Dokumenttext dorthin, und die Dokumentation warnt, dass entfernte Anbieter den Dokumentinhalt erhalten. Mit Ollama oder vLLM im Haus bleiben Text, Index und Chat auf Ihrer Hardware. Die Dokumentation behandelt Dokumentinhalte außerdem als nicht vertrauenswürdige Daten: Ein gescannter Brief könnte Anweisungen an das Modell enthalten, deshalb sollten „fehlende Einträge anlegen“ und „überschreiben“ in der Workflow-Aktion aus bleiben, solange Sie die Ergebnisse nicht prüfen. Unser Leitfaden zu lokaler KI und DSGVO erklärt, was der eigene Betrieb löst; Ihr Datenschutz­beauftragter bestätigt, was Ihr Unternehmen braucht.

So richten wir Paperless-ngx mit KI ein

Wenn wir die Software einrichten, betreibt die Workstation Paperless-ngx mit Docker Compose, der Installationsart, die das Projekt dokumentiert, mit Ollama auf der GPU und bereits heruntergeladenen Modellen: einem zur Karte passenden Chat-Modell, bge-m3 für den Index und bei schlechten Scans paperless-gpt mit einem Vision-Modell, dessen Lizenz zu Ihrer Nutzung passt. OCR-Sprachen, der überwachte Ordner für den Scanner und die E-Mail-Regeln sind auf Ihre Dokumente eingestellt, der Export für die Sicherung ist eingeplant. Möchte Ihr Unternehmen zusätzlich einen Chat mit seinen Dokumenten wie AnythingLLM, eine lokale NotebookLM-Alternative, eine KI-Suche über SharePoint und Confluence mit Onyx, die Übersetzung von Dokumenten mit erhaltenem Layout oder eine KI, die das Sammelpostfach sortiert, betreibt dieselbe GPU oder ein Server alles gemeinsam; die Vorarbeit beschreibt unser Leitfaden zur Vorbereitung von Firmendokumenten für einen KI-Assistenten.

Wir liefern Workstations mit einer RTX PRO 4000, RTX PRO 5000 oder RTX PRO 6000 Workstation Edition für Paperless-ngx; senden Sie uns Ihr Dokumentenaufkommen und die Sprachen Ihrer Post, und wir schlagen die passende Karte vor.

FAQ