Wissensassistent auf eigenen Dokumenten: lokal oder EU-Cloud

Ein Wissensassistent beantwortet Fragen aus den eigenen Unterlagen eines Betriebs und nennt die Stelle, an der die Antwort steht. Ob das Sprachmodell dahinter auf einem eigenen Rechner läuft oder bei einem Anbieter in der EU, entscheidet darüber, wo Ihre Texte verarbeitet werden, wer den Betrieb trägt und was im Vertrag steht. Die Bausteine sind in beiden Fällen dieselben, und die Grenzen ebenso: Sie liegen in der Qualität Ihrer Unterlagen und in der Prüfung durch die Person, die fragt.

Was die Bürokraft fragt und was sie zurückbekommt

Ein Beispiel mit erfundenen Daten: In der „Musterbau Haustechnik GmbH“, die es nicht gibt, fragt die Bürokraft: „Welche Zahlungsfrist gilt beim Großhändler Beispiel?“ Der Assistent antwortet: „30 Tage netto. Fundstelle: Rahmenvertrag Großhandel, Abschnitt 4.2, Seite 3.“ Sie öffnet die Seite, liest die Zeile und trägt die Frist erst dann in eine Mail ein. Fragt sie nach etwas, das in keiner Unterlage steht, soll die Antwort lauten: „Dazu finde ich nichts in den Unterlagen.“ Das lässt sich dem Modell auftragen, garantieren lässt es sich nicht.

Der Assistent liefert also einen Vorschlag mit Beleg, und ein Mensch entscheidet. Dasselbe Muster beschreibt der Beitrag KI im Workflow: ein KI-Schritt, feste Regeln, Freigabe.

1. Frage Die Bürokraft tippt sie in normaler Sprache
2. Stellen suchen Suche nach Bedeutung, Beispiel: 3 Treffer KI bereitet vor
3. Antwort Das Modell antwortet nur aus den Treffern KI bereitet vor
4. Fundstelle Datei und Seite hängt das Programm an
5. Prüfen Die Bürokraft liest die Stelle selbst

Textfassung der Grafik

• 1. Frage: Die Bürokraft tippt sie in normaler Sprache
• 2. Stellen suchen: Suche nach Bedeutung, Beispiel: 3 Treffer (die KI bereitet vor)
• 3. Antwort: Das Modell antwortet nur aus den Treffern (die KI bereitet vor)
• 4. Fundstelle: Datei und Seite hängt das Programm an
• 5. Prüfen: Die Bürokraft liest die Stelle selbst

Die Bausteine

1. Ihre UnterlagenVerträge, Normen, Protokolle; Scans erst per Texterkennung lesbar machen
2. Abschnitte und ZahlenfolgenEin Embedding-Modell macht aus jedem Abschnitt eine Zahlenfolge
3. VektorspeicherFindet zu einer Frage die ähnlichsten Abschnitte, zum Beispiel pgvector
4. SprachmodellAntwortet nur aus den Treffern, lokal (Ollama) oder in der EU-Cloud
5. Antwort mit FundstelleDas Programm hängt Datei und Seite an, die Bürokraft prüft

Textfassung der Grafik

• Ebene 1 von unten: Ihre Unterlagen, Verträge, Normen, Protokolle; Scans erst per Texterkennung lesbar machen
• Ebene 2 von unten: Abschnitte und Zahlenfolgen, Ein Embedding-Modell macht aus jedem Abschnitt eine Zahlenfolge
• Ebene 3 von unten: Vektorspeicher, Findet zu einer Frage die ähnlichsten Abschnitte, zum Beispiel pgvector
• Ebene 4 von unten: Sprachmodell, Antwortet nur aus den Treffern, lokal (Ollama) oder in der EU-Cloud
• Ebene 5 von unten: Antwort mit Fundstelle, Das Programm hängt Datei und Seite an, die Bürokraft prüft

Das Verfahren heißt RAG (retrieval-augmented generation, etwa „Antworten mit vorheriger Suche“). Nach der n8n-Dokumentation holt ein System zuerst passende Dokumente, damit die Antwort auf eigenem Wissen beruht und nicht nur auf dem Training des Modells. Dafür braucht es ein Modell, einen Vektorspeicher und einen Abruf. Das Modell gibt es lokal oder in der Cloud.

Als lokales Modell dient oft Ollama, ein Programm, das Sprachmodelle auf dem eigenen Rechner ausführt. Laut Ollama-FAQ gilt: „Ollama runs locally. We don’t see your prompts or data when you run locally.“ Standardmäßig hört es nur auf dem eigenen Rechner („binds 127.0.0.1 port 11434“). In n8n genügt ein Zugang vom Typ Ollama mit der Adresse http://localhost:11434; danach soll „Connection tested successfully“ erscheinen. Dieselbe Seite beschreibt auch den Weg zu ollama.com, und das ist die Cloud des Herstellers. Wer nur lokal arbeiten will, schaltet sie laut FAQ mit OLLAMA_NO_CLOUD=1 ab.

Beim Modell in der EU-Cloud nennt IONOS seine Schnittstelle „fully OpenAI-compatible“, Programme für OpenAI-Dienste lassen sich also anbinden. Bei Microsoft stellen Sie das Modell in Foundry bereit und wählen dabei, wo es rechnen darf (nächster Abschnitt).

Der Vektorspeicher macht Ihre Dokumente durchsuchbar. Sie werden in Abschnitte zerlegt, und ein Embedding-Modell macht aus jedem Abschnitt eine Zahlenfolge, die seine Bedeutung abbildet. Der Speicher findet zu einer Frage die ähnlichsten Abschnitte, nach Bedeutung und nicht nach Stichwort. pgvector, eine Erweiterung für die Datenbank PostgreSQL, wirbt mit „Store your vectors with the rest of your data“. IONOS baut seine Anleitung darauf auf. n8n warnt dagegen vor seinem Simple Vector Store: nur für Entwicklung, „All data is lost when n8n restarts“, und alle Nutzer der Instanz können die Daten lesen.

Beim Abruf zeigt die IONOS-Anleitung den Ablauf: Frage in eine Zahlenfolge umwandeln, die ähnlichsten Abschnitte holen (Beispielwert: 3) und dem Modell geben, mit der Anweisung, nur aus diesem Kontext zu antworten und sonst zu sagen, dass es die Antwort nicht kennt. Die Beispieltabelle der Anleitung hat nur die Spalten Text und Vektor, also keine Quelle. n8n rät, jedem Abschnitt Metadaten mitzugeben. Datei und Seite dort einzutragen ist Teil Ihrer Einrichtung. Das ist meine Empfehlung und keine Herstellerangabe: Das Programm hängt die Fundstelle aus diesen Daten an, das Modell schreibt sie nicht selbst. Microsoft bietet mit Foundry IQ eine fertige Variante, die laut Seite Antworten „with citations“ liefert; einige Funktionen sind dort noch in der Vorschau.

Wo die Daten verarbeitet werden, Stand November 2026

Alles Folgende sind Herstellerangaben, abgerufen am 13.11.2026.

Weg	Frage, Abschnitte, Antwort	Was offen bleibt
Lokal mit Ollama	Auf Ihrem Rechner; Ollama sieht Ihre Daten nach eigener Angabe nicht	Betrieb, Updates und Zugriffsschutz liegen bei Ihnen
IONOS AI Model Hub	In IONOS-Rechenzentren in Deutschland; Inhalte nicht protokolliert, nicht zum Training genutzt	Metadaten werden gespeichert, keine Pseudonymisierung durch IONOS
Microsoft, Data Zone EU	Innerhalb der EU-Datenzone; ruhende Daten in der gewählten Region	Umfang der Zone, Ausnahmen, Vorschau-Funktionen

Bei IONOS steht in der Datenschutzseite: Alle Verarbeitung finde in Rechenzentren in Deutschland statt, der Inhalt von Eingaben und Ausgaben werde nicht protokolliert, nicht zum Training verwendet und nicht an Dritte weitergegeben. Protokolliert werden Zeitpunkt, Modell und Tokenzahl. Es seien keine Unterauftragnehmer eingesetzt. Der Auftragsverarbeitungsvertrag gehöre zum Vertrag und brauche keine gesonderte Unterschrift. Die Seite sagt auch, IONOS pseudonymisiere den Inhalt nicht; wer das braucht, müsse es vor dem Versand selbst tun. Die Bedingungen für KI-Dienste untersagen jede Nutzung zum Training, kennen aber bei „SaaS“-Diensten eine Nutzung zur Verbesserung. Welche Form für welchen Dienst gilt, steht in der Leistungsbeschreibung; das sollten Sie sich bestätigen lassen. Die Vektordatenbank ist ein eigener Dienst (Managed PostgreSQL), den die Anleitung ebenfalls in Deutschland verortet.

Bei Microsoft hängt der Ort vom Bereitstellungstyp ab. Beim Typ „Data Zone“ in der EU werden Eingaben und Antworten laut Dokumentation nur innerhalb der EU-Datenzone verarbeitet. Zwei Microsoft-Seiten beschreiben den Umfang verschieden. Die Datenschutzseite (Seitenstand 5. Juni 2026) sagt, bei einer Ressource in einem EU-Mitgliedstaat dürfe in diesem oder jedem anderen EU-Mitgliedstaat verarbeitet werden („that or any other European Union Member Nation“). Die Seite zu den Bereitstellungstypen (Seitenstand 12. August 2026) sagt, die EU-Datenzone folge der EU Data Boundary, und die kann neben EU-Staaten auch EFTA-Länder wie Norwegen und die Schweiz umfassen. Dort steht auch, dass Microsoft Regionen ohne Vorankündigung ergänzen kann. Lassen Sie sich schriftlich bestätigen, welche Fassung für Ihre Bereitstellung gilt. Beim Typ „Global“ kann überall verarbeitet werden, wo das Modell läuft. Die Seite empfiehlt Global Standard als Startpunkt und nennt Datenresidenz selbst als Grund, den Typ zu wechseln. Microsoft räumt für die EU Data Boundary außerdem begrenzte Ausnahmen ein, die ich nicht vollständig ausgewertet habe. Für die Prüfung auf Missbrauch legt Microsoft Eingaben und Antworten in einem Speicher in der gewählten Region ab. Menschliche Prüfer lesen sie laut Seite nur, wenn das System sie markiert hat. Bei Modellen im Europäischen Wirtschaftsraum sitzen sie dort. Zum Training werden Ihre Daten nicht verwendet.

Wo der Assistent an Grenzen kommt

• Die Unterlagen setzen die erste Grenze. Die Einbettung nimmt laut IONOS nur Klartext an, bei Scans braucht es also vorher eine Texterkennung (meine Folgerung). Ob ein Vertrag veraltet ist oder zwei Fassungen sich widersprechen, weiß der Assistent nicht.
• Die Suche findet nicht jede Stelle. Ohne Index sucht pgvector nach eigener Angabe genau. Mit einem Index („approximate“) tauscht es „some recall for speed“, findet also nicht jede passende Stelle. Die IONOS-Anleitung legt einen solchen Index an.
• Das Modell kann sich irren. Auch mit der Anweisung kann es Erfundenes liefern. IONOS hält in den Bedingungen fest, die Ausgabe könne „fehlerhaft, irreführend, unvollständig oder unangemessen“ sein.
• Der Speicher begrenzt ein lokales Modell. Ollama stellt bei weniger als 24 GiB Grafikspeicher standardmäßig nur 4k Kontext ein; bei vielen oder langen Treffern bleibt wenig Platz. Mehr Kontext kostet Speicher.
• Die Rechte müssen stimmen. Der Assistent darf nur zeigen, was die fragende Person sehen darf. Foundry IQ setzt Berechtigungen laut Seite bei der Abfrage durch, ein selbstgebauter Speicher nur, wenn Sie das einrichten.

Eine Fundstelle sagt nur, woher die Antwort stammen soll. Bei Fristen, Preisen und Zusagen liest die Bürokraft die Stelle deshalb selbst.

Lokal oder EU-Cloud?

Kosten und Antwortqualität habe ich nicht gemessen und nenne keine Zahlen. Eine Praxisannahme des Autors: Lokal passt, wenn Dokumente das Haus nicht verlassen sollen und jemand den Betrieb übernimmt. Die EU-Cloud passt, wenn dieses Wissen im Haus fehlt und der Vertrag Ihre Anforderungen deckt. Die Kostenarten stehen im Beitrag Cloud oder selbst betreiben: was Automatisierung kostet. Rechtsfragen klärt der Datenschutzbeauftragte.

Was Sie jetzt tun können

1. Schreiben Sie 20 Fragen auf, die Ihr Büro zuletzt wirklich gestellt hat, mit der Stelle, an der die Antwort steht. Das ist später Ihr Prüfstand.
2. Sortieren Sie die Unterlagen: aktuelle Fassung, Scans ohne Text und Dokumente mit Personenbezug getrennt.
3. Lassen Sie den Datenschutzbeauftragten festlegen, welche Ordner in welches Werkzeug dürfen.
4. Fragen Sie Anbieter schriftlich nach Verarbeitungsort, Training, Auftragsverarbeitung und Einstellung von Diensten.