NotebookLM-Alternative lokal: Open Notebook, SurfSense und Kotaemon auf Ihrer Workstation

Eine NotebookLM-Alternative, die auf Ihrer eigenen Maschine läuft

Die naheliegende NotebookLM-Alternative zum Selbsthosten ist für eine Person Open Notebook: Sie sammeln Quellen in Notizbüchern, bekommen Antworten mit Quellenangaben und erzeugen Audio-Zusammen­fassungen im Podcast-Stil, während Ollama die Modelle lokal auf einer Workstation im eigenen Büro betreibt, sodass vertrauliche Dokumente im Haus bleiben. Für ein Team ergänzt Kotaemon Anmeldungen und gemeinsame Sammlungen. Nach unserer Schätzung betreibt eine RTX PRO 5000 Blackwell mit 48 GB Textmodell, Suchmodell und Spracherkennung gleichzeitig.

Googles Workspace-Seite nennt das Produkt inzwischen Gemini Notebook und bestätigt in ihren FAQ, gelesen am 30. Oktober 2026, dass NotebookLM jetzt Gemini Notebook heißt. Gesucht wird weiter nach NotebookLM, deshalb verwendet dieser Artikel für das Cloud-Produkt den alten Namen.

Wir denken an Beraterinnen, Analysten, Forschende oder Strategieteams, die die Arbeitsweise von NotebookLM schätzen und Mandantenakten, Verträge oder unveröffentlichte Forschung haben, die das Unternehmen nicht verlassen sollen. Die Hardware steht in einem Abschnitt mit Tabelle, die Sicherheitseinstellungen für die IT folgen danach.

Was NotebookLM leistet und wohin die Dateien gehen

Googles Workspace-Seite, gelesen am 30. Oktober 2026, beschreibt das Produkt als Assistenten, der Ihre hochgeladenen Quellen nutzt, um Fragen zu beantworten und Aufgaben zu erledigen, mit Antworten, die auf die Quelle zurückverweisen, und Audio Overviews, die Dokumente in anhörbare Zusammen­fassungen verwandeln. Es nimmt Google Docs und Slides, PDFs, Text- und Markdown-Dateien, Webadressen, eingefügten Text, öffentliche YouTube-Links und Audiodateien an, bis zu 500.000 Wörter pro Quelle oder 200 MB pro hochgeladener Datei. Zur Datennutzung sagt dieselbe Seite, dass Gemini Notebook nie Modelle mit Ihren hochgeladenen Daten trainiert. Googles Hilfeseite ergänzt, dass bei Workspace-Nutzern Uploads, Anfragen und Antworten nicht von menschlichen Prüfern angesehen werden und dass für andere Nutzer die Google-Nutzungsbedingungen gelten.

Gleich, welche Bedingungen gelten: Die Quellen werden zur Verarbeitung in Googles Dienst hochgeladen. Mit einem lokalen Werkzeug bleiben Quellen, Suchindex, Chats und erzeugtes Audio auf Ihrer Hardware, und nichts geht hinaus, solange niemand einen Cloud-Modellanbieter einrichtet. Ob ein Cloud-Dienst für eine bestimmte Mandantenakte vertretbar ist, entscheiden Ihr Datenschutz­beauftragter und der Mandantenvertrag; unser Leitfaden zu lokaler KI und DSGVO erklärt, was der eigene Betrieb ändert und was Ihre Pflicht bleibt.

Open Notebook, SurfSense und Kotaemon im Vergleich

Am stärksten unterscheiden sich die drei Projekte darin, für wen sie gebaut sind. Die Tabelle vergleicht sie so, wie ihre eigenen Seiten sie im Oktober 2026 beschreiben.

GitHub-Repositories und Lizenzdateien von lfnovo/open-notebook, MODSetter/SurfSense und Cinnamon/kotaemon, gelesen am 30. Oktober 2026.

Open Notebook kommt der Arbeitsweise von NotebookLM am nächsten. Es hat 40,6k Sterne auf GitHub, die aktuelle Version erschien am 4. Oktober 2026. Es nimmt PDFs, Office-Dokumente, Webseiten, Audio und Video als Quellen an, Antworten nennen die Quellen, Notizen und Erkenntnisse, die sie genutzt haben, die Suche läuft als Volltext und nach Bedeutung, und „Transformations“ erzeugen Zusammen­fassungen oder ziehen Erkenntnisse heraus. Für Automatisierung gibt es eine REST-API. Mehrbenutzer-Unterstützung steht im Visionsdokument des Projekts nur unter „Horizon“, und das Dokument nennt solche Punkte Richtungen ohne zugesagten Termin.

SurfSense beschreibt sich als quelloffene Alternative zu NotebookLM und hat sich in Richtung Live-Datenquellen für Agenten entwickelt. Seine Wissensbasis kann Google Drive, OneDrive und Dropbox synchronisieren, lokale Modelle laufen über vLLM und Ollama. Das README sagt, das Projekt werde aktiv entwickelt und sei noch nicht produktionsreif, und kennzeichnet die Teamzusammenarbeit als Beta. Das Installationsskript richtet Watchtower ein, das die Container täglich aktualisiert, sofern Sie nicht --no-watchtower angeben; ein Unternehmen will meist selbst bestimmen, wann sich Software ändert. Laut Lizenzdatei steht der größte Teil des Codes unter Apache 2.0 und ein Verzeichnis des Backends unter der Business Source License 1.1, die den produktiven Einsatz erlaubt, solange die Software Dritten nicht als kommerzielles Produkt oder als gehosteter oder verwalteter Dienst angeboten wird; wie das für Sie gilt, bestätigt Ihre Rechtsberatung. Wegen des Beta-Status, der täglichen automatischen Updates und des BSL-Teils liefern wir SurfSense nicht vorinstalliert aus; für Teams richten wir Kotaemon ein.

Kotaemon ist ein Werkzeug für Fragen an Dokumente mit Mehrbenutzer-Anmeldung, privaten und öffentlichen Sammlungen und teilbaren Chats. Die aktuelle Version erschien am 31. Mai 2026. Es betreibt lokale Modelle über Ollama und llama-cpp-python, liest Dokumente mit Parsern wie Docling und PaddleOCR und bietet graphbasierte Retrieval-Optionen. Eine Podcast-Funktion beschreibt sein README nicht; es deckt also nur den Frage-und-Antwort-Teil dessen ab, was NotebookLM leistet.

Open Notebook voll lokal: Text, Suche und Sprache

Ein lokales Notizbuch braucht drei Arten von Modellen. Ein Sprachmodell schreibt Antworten und Zusammen­fassungen. Ein Embedding-Modell wandelt jede Quelle in Vektoren um, damit die Suche Passagen nach Bedeutung findet. Ein Sprachausgabe-Modell liest Podcast-Skripte vor, und ein Sprach­erkennungs­modell transkribiert Audio- und Videoquellen.

Die Anleitung von Open Notebook für eine voll lokale Installation nutzt Ollama für die ersten beiden und nennt qwen3 als allgemeine Empfehlung und nomic-embed-text für Embeddings. Für deutsche Quellen würden wir einen mehrsprachigen Embedder wie bge-m3 wählen, in Ollama ein Download von 1,2 GB, den die Modellseite mit mehr als 100 Arbeitssprachen beschreibt, und ein Chat-Modell mit gutem Deutsch wie Gemma 4, für das Googles Modellkarte Unterstützung für mehr als 35 Sprachen ab Werk nennt. Ollama legt das Standard-Kontextfenster, also die Textmenge, die das Modell auf einmal liest, nach dem Speicher der Karte fest: laut seiner Dokumentationsseite zur Kontextlänge 4k Token (ein Token ist ein Wort oder Wortteil) unter 24 GiB, zu kurz für lange Quellen, 32k von 24 bis 48 GiB und 256k ab 48 GiB; Open Notebook kann die Kontexteinstellung num_ctx von Ollama überschreiben und speichert sie seit v1.10.0 in seiner Konfiguration, und ein größerer Kontext braucht mehr GPU-Speicher.

Ollama verarbeitet keine gesprochene Sprache; Stimmen und Transkription brauchen deshalb einen zweiten Server. Die Anleitungen von Open Notebook für lokale Sprache verweisen beide auf Speaches, einen Server unter MIT-Lizenz mit OpenAI-kompatibler Schnittstelle, den Open Notebook als Anbieter „OpenAI Compatible“ anbindet. Für die Transkription nutzt Speaches faster-whisper, und die Anleitung nennt Whisper-Modelle von tiny bis large-v3, mit etwa 10 GB GPU-Speicher für large-v3, dem Wert, den OpenAI für die eigene Implementierung angibt; das README von faster-whisper zeigt auf seiner Testkarte 4.525 MB für large-v2 in float16, wir planen daher mit 10 GB als sicherem Höchstwert. Für Stimmen nutzt die Anleitung Kokoro, ein Modell mit 82 Millionen Parametern unter Apache 2.0. Die Stimmenliste von Kokoro umfasst amerikanisches und britisches Englisch, Japanisch, Mandarin, Spanisch, Französisch, Hindi, Italienisch und brasilianisches Portugiesisch, aber kein Deutsch. Speaches betreibt auch Piper-Stimmen, und die Piper-Sammlung auf Hugging Face enthält acht deutsche Stimmordner, jeder mit eigener Modellkarte und Lizenz: Die Karte von de_DE-thorsten nennt CC0, de_DE-pavoque dagegen wurde mit einem Datensatz unter CC BY-NC-SA 4.0 trainiert, der eine kommerzielle Nutzung ausschließt. Prüfen Sie die Lizenz jeder Stimme und hören Sie eine Probe, bevor Sie sie für Audio an Mandanten nutzen. Die Anleitung weist außerdem darauf hin, dass lokale Sprachausgabe-Server meist eine Anfrage nach der anderen bearbeiten; ein langer Podcast dauert also. Gehen erzeugte Podcasts an Mandanten, beachten Sie Artikel 50 Absatz 2 der KI-Verordnung (AI Act): Anbieter von Systemen, die synthetisches Audio erzeugen, müssen es maschinenlesbar kennzeichnen, und ein Unternehmen, das ein solches System für den eigenen Gebrauch einrichtet, kann als Anbieter gelten; unser Artikel EU AI Act für Unternehmen mit LLMs erklärt die Rollen, und Ihre Rechtsberatung bestätigt, was gilt.

Sie können die Workstation allein bestellen, die Einrichtung von Open Notebook, Ollama, Speaches und den Modellen allein oder beides zusammen: die Workstation mit allem fertig installiert und eingerichtet; schreiben Sie uns, wir schlagen Ihnen die beste Lösung für Ihre Aufgaben und Ihr Budget vor.

Welche Workstation für ein lokales NotebookLM

Alles, was das Notizbuch geladen hält, muss in den Speicher der Grafikkarte passen. Wir rechnen mit der Nutzer-pro-Karte-Regel aus unserem Leitfaden, wie viele Nutzer eine RTX PRO 6000 bedient: 90 Prozent des Speichers, den der Treiber meldet, abzüglich 3 GiB für die Laufzeit. Das ergibt 18,5 GiB auf einer RTX PRO 4000 mit 24 GB, 40,0 GiB auf einer RTX PRO 5000 mit 48 GB und 83,0 GiB auf einer RTX PRO 6000 mit 96 GB. Die Modellgrößen sind die Downloadgrößen von Ollama, gelesen am 30. Oktober 2026, und etwa 10 GB für Whisper large-v3 laut der Sprachanleitung von Open Notebook.

Unsere Schätzungen nach der Nutzer-pro-Karte-Regel, keine Messungen; Modellgrößen von ollama.com und aus der Sprachanleitung von Open Notebook; gpt-oss-120b aus unserem gpt-oss-120b-Leitfaden.

Die Rechnung hinter den Zeilen, nach unserer Schätzung. Auf der Karte mit 24 GB belegen gemma4:12b (8,0 GB) und bge-m3 (1,2 GB) zusammen 9,2 GB oder 8,6 GiB und lassen etwa 9,9 GiB frei; mit Whisper large-v3 dazu wären es 19,2 GB oder 17,9 GiB, und für Kontext bliebe fast nichts. Diese Karte passt für Textquellen, mit einem kleineren Whisper-Modell für die gelegentliche Aufnahme. Auf der Karte mit 48 GB belegen gemma4:26b (bis zu 19 GB), bge-m3 und Whisper large-v3 30,2 GB oder 28,1 GiB und lassen etwa 11,9 GiB für lange Kontexte und das Stimmenmodell. Eine Team-Instanz auf einer RTX PRO 6000 Workstation Edition oder Max-Q betreibt gpt-oss-120b auf vLLM, dessen Gewichte etwa 65 GB (60,8 GiB) belegen und Platz für etwa 19 gleichzeitige Gespräche mit 32.768 Token lässt, laut unserem Leitfaden zu gpt-oss-120b.

Die Version der RTX PRO 5000 mit 72 GB schafft Platz für längere Kontexte oder ein größeres Modell, wie unser Vergleich der RTX PRO 5000 mit 48 GB oder 72 GB zeigt. Zwei RTX PRO 6000 Workstation Edition sind das realistische Maximum dieser Edition in einer Workstation; drei oder vier Max-Q gehören nur in ein dafür gebautes Gehäuse mit starkem, gerichtetem Luftstrom.

Eine veröffentlichte Geschwindigkeitsmessung von Open Notebook, SurfSense oder Kotaemon auf diesen Karten haben wir nicht gefunden. Das Tempo hängt von der Speicherbandbreite der Karte ab (672 GB/s bei der RTX PRO 4000, 1.344 GB/s bei der RTX PRO 5000, 1.792 GB/s bei der RTX PRO 6000 Workstation Edition), von der Modellgröße, der Länge der Quellen und davon, wie viele Personen gleichzeitig fragen. Das Transkribieren langer Aufnahmen ist der schwerste Schritt; unser Leitfaden zum Speech-to-Text-Server mit Whisper sammelt veröffentlichte Durchsatzwerte.

Sicherheitseinstellungen für die IT

Die Schnellstart-Anleitung von Open Notebook hält fest, dass die mitgelieferte Docker-Compose-Datei die Oberfläche (Port 8502) und die API (Port 5055) auf allen Netzwerkschnittstellen bereitstellt und dass es standardmäßig kein Passwort gibt. Können andere Rechner die Workstation erreichen, binden Sie beide Ports an 127.0.0.1 oder setzen Sie OPEN_NOTEBOOK_PASSWORD, und erzeugen Sie einen eigenen OPEN_NOTEBOOK_ENCRYPTION_KEY, statt das Beispiel zu übernehmen. Version 1.15.0 hat die Verschlüsselung gespeicherter Zugangsdaten verstärkt und verlangt vor der Migration eine Sicherung der Datenbank, weil ältere Versionen das neue Format nicht lesen können. Sie setzt außerdem ein Zeitlimit von 180 Sekunden für Modellaufrufe; bei langsamen lokalen Modellen raten die Versionshinweise, ESPERANTO_LLM_TIMEOUT zu erhöhen und unter 600 Sekunden zu bleiben.

Bei SurfSense entscheiden Sie vor dem ersten Start, ob tägliche automatische Updates zu Ihrem Änderungsprozess passen. Bei Kotaemon trennt die Mehrbenutzer-Anmeldung private und öffentliche Sammlungen; wer welche Sammlung sieht, legt der Administrator fest. In allen drei lässt sich in den Einstellungen ein Cloud-Modellanbieter eintragen, und dann geht der Text dorthin; beschränken Sie daher, wer Modelleinstellungen ändern darf.

Was wir auf der Recherche-Workstation einrichten

Wenn wir die Software einrichten, betreibt die Workstation Open Notebook in Docker mit Ollama auf der GPU und bereits heruntergeladenen Modellen: einem Chat-Modell mit gutem Deutsch, einem mehrsprachigen Embedder, Speaches mit Whisper für Audioquellen und für Podcasts Stimmen in den Sprachen, die Sie brauchen, deren Lizenz die kommerzielle Nutzung erlaubt. Passwort und Schlüssel sind gesetzt, die Ports gebunden. Für ein Team tritt Kotaemon mit Konten und Sammlungen auf einer größeren Karte an seine Stelle. Will ein Team statt Notizbüchern einen gemeinsamen Chat über Dokumentsammlungen, passt unser Leitfaden zu AnythingLLM als Desktop-App oder Teamserver besser; die Suche über SharePoint und Confluence behandelt unser Leitfaden zu Onyx selbst hosten. Zur allgemeinen Frage von Firmendokumenten in einem KI-Werkzeug lesen Sie unsere Leitfäden zur Vorbereitung von Firmendokumenten für einen KI-Assistenten und zum KI-Server für Beratungsunternehmen.

Wir liefern Workstations mit einer RTX PRO 5000 oder einer RTX PRO 6000 Workstation Edition für ein lokales Notizbuch; senden Sie uns, mit welchen Quellen Sie arbeiten, in welchen Sprachen und wie viele Personen es nutzen, und wir schlagen Ihnen die beste Lösung für Ihre Aufgaben und Ihr Budget vor.

FAQ