Martin Felux, Bau- und Wirtschaftsingenieur
Eine KI-Wissensbasis sucht in Ihren Projektdokumenten zuerst die passenden Textstellen. Erst danach, und nur auf Wunsch, formuliert ein Sprachmodell aus diesen Stellen eine Antwort und nennt dazu die Fundstelle. Das Verfahren heißt Retrieval-Augmented Generation, kurz RAG, und ob es bei Ihnen taugt, hängt stark vom Zustand Ihrer Ablage ab.
Das Prinzip: erst nachschlagen, dann antworten
Ein Sprachmodell kennt Ihre Projekte nicht. Es hat nie Ihre Nachträge, Protokolle oder Bauzeitenpläne gesehen. Fragt man es trotzdem, antwortet es aus allgemeinem Wissen und im Zweifel mit dem, was plausibel klingt.
RAG löst das, indem es dem Modell ein Nachschlagewerk an die Seite stellt. Die Grundidee stammt aus einer Veröffentlichung von 2020: Ein vortrainiertes Sprachmodell wird mit einem durchsuchbaren Vektorindex verbunden (im Aufsatz war das ein Index von Wikipedia). Microsoft nennt das Muster in seiner Architekturdokumentation einen branchenüblichen Ansatz, Sprachmodelle mit Daten arbeiten zu lassen, die sie vorher nicht kennen.
Am besten denken Sie an eine Kollegin, die nichts auswendig weiß, aber ein sehr gutes Register führt. Sie schlägt nach, legt Ihnen die Seiten hin und fasst zusammen, was dort steht.
- Dokumente einlesen PDF, Office, Mails, Scans mit Texterkennung
- In Abschnitte teilen Jeder Abschnitt behandelt ein Thema
- Index aufbauen Volltext und Bedeutung, mit Dokument und Seite KI bereitet vor
- Frage stellen In normaler Sprache, wie an eine Kollegin
- Fundstellen finden Die passendsten Abschnitte mit Auszug KI bereitet vor
- Antwort mit Quelle Kurzer Text, jede Aussage mit Fundstelle KI bereitet vor
Textfassung der Grafik
- 1. Dokumente einlesen: PDF, Office, Mails, Scans mit Texterkennung
- 2. In Abschnitte teilen: Jeder Abschnitt behandelt ein Thema
- 3. Index aufbauen: Volltext und Bedeutung, mit Dokument und Seite (die KI bereitet vor)
- 4. Frage stellen: In normaler Sprache, wie an eine Kollegin
- 5. Fundstellen finden: Die passendsten Abschnitte mit Auszug (die KI bereitet vor)
- 6. Antwort mit Quelle: Kurzer Text, jede Aussage mit Fundstelle (die KI bereitet vor)
Was bei der Einrichtung geschieht
Die ersten drei Schritte laufen einmal beim Aufbau und danach bei jeder neuen oder geänderten Datei.
Zuerst werden die Dateien eingelesen: PDF, Office-Dokumente, exportierte Mails. Scans ohne Textebene brauchen vorher eine Texterkennung, sonst gibt es nichts zu durchsuchen.
Danach zerlegt das Programm jedes Dokument in Abschnitte, nach Microsoft so, dass jeder Abschnitt inhaltlich zusammengehört. Zu kleine Abschnitte enthalten oft zu wenig Zusammenhang, um die Frage zu beantworten. Zu große sind teuer, können die Grenzen des Modells sprengen und liefern schlechtere Ergebnisse. Bei einem Protokoll bietet sich zum Beispiel eine Teilung nach Tagesordnungspunkten an, bei einem LV nach Positionsgruppen.
Zuletzt kommt jeder Abschnitt in einen Index, zusammen mit Dokumentname, Seite und Datum. Gesucht wird auf zwei Wegen gleichzeitig. Die Volltextsuche findet exakte Begriffe. Die Suche nach Bedeutung findet Stellen, die zur Frage passen, auch wenn dort andere Worte stehen. Microsoft nennt als Fälle für den exakten Treffer Produktcodes, Fachjargon, Datumsangaben und Namen. Bei Ihnen wären das Aktenzeichen, Positionsnummern oder Planindizes.
Zwei Stufen: Fundstellen und Antworten
Die Suche lässt sich in zwei Stufen betreiben, und Sie müssen nicht beide nehmen.
| Stufe 1 | Stufe 2 | |
|---|---|---|
| Ergebnis | Trefferliste mit Auszug, Dokument und Seite | Kurze Antwort, jede Aussage mit Quelle |
| Wer schreibt Text | niemand, es wird nur gefunden | ein Sprachmodell, aus den Treffern |
| Prüfung | Sie lesen die Stelle selbst | Sie prüfen die Antwort am Original |
| Risiko | Treffer fehlen, wenn die Ablage lückenhaft ist | zusätzlich: Die Antwort kann etwas falsch zusammenfassen |
Stufe 1 hat einen eigenen Wert. Sie zeigt Ihnen schnell, ob Ihre Ablage durchsuchbar ist, und niemand muss einer Zusammenfassung vertrauen. Stufe 2 setzt darauf auf. Dem Modell wird vorgegeben, nur aus den gefundenen Abschnitten zu antworten und sonst „nicht gefunden“ zu melden. Fehler schließt das nicht aus, deshalb zählt die Quellenangabe.
Dazu gehört ein Rechtefilter: Jede Person sieht nur Treffer aus Dokumenten, die sie auch in der Ablage öffnen dürfte.
Ein Durchlauf an einem erfundenen Beispiel
Frage im Büro: „Was haben wir im Projekt Musterstraße zur Bauzeitverlängerung bei Lieferengpässen geregelt?“ Die Volltextsuche findet alle Dokumente mit dem Wort „Bauzeitverlängerung“. Die Suche nach Bedeutung findet zusätzlich ein Protokoll, in dem nur von „Verschiebung der Fertigstellung wegen Materialknappheit“ die Rede ist.
In Stufe 1 sehen Sie drei Treffer: Bauvertrag Seite 12, Protokoll Jour fixe Seite 3, Nachtrag 2 Seite 1, jeweils mit Auszug und Datum. Sie lesen die drei Stellen selbst. In Stufe 2 steht darüber ein Antwortentwurf von zwei Sätzen mit denselben drei Fundstellen. Bevor etwas in ein Schreiben übernommen wird, öffnet jemand Seite 12 des Vertrags. Alle Namen und Angaben in diesem Beispiel sind erfunden.
Wie Sie anfangen
Sinnvoll ist ein Pilot an einem abgeschlossenen Projekt oder an einem Ordnerbereich, als Annahme zum Start auf vier bis sechs Wochen angelegt. Eine Ansprechperson bei Ihnen legt mit fest, welche Ordner hineinkommen, und bewertet die Treffer an den gesammelten Testfragen. Aus dem Pilot erfahren Sie, wie viele Fragen die Suche findet, wo Treffer fehlen und ob sich eine Ausdehnung auf weitere Projekte lohnt. Ob die Wissensbasis dabei lokal oder bei einem Anbieter in der EU laufen soll, behandelt der Beitrag Wissensassistent auf eigenen Dokumenten: lokal oder EU-Cloud.
Warum Ordnung vor Technik kommt
Die Suche findet nur, was in der Ablage steht und lesbar ist. Dazu liefert eine Onlinebefragung des Fraunhofer IRB vom März 2026 unter Architektur- und Ingenieurbüros nüchterne Zahlen, die für die Befragten gelten und nicht für jedes Büro. Teilgenommen haben vor allem Architekturbüros (45 Prozent) und Bauingenieurbüros (29 Prozent). 65 Prozent schätzen ihre Projektdaten als teilweise strukturiert, aber verbesserungsbedürftig ein. 16 Prozent halten sie für so unstrukturiert, dass sie kaum für KI nutzbar sind. Nur 8 Prozent nennen sie sehr gut strukturiert, und eine systematische, hoch standardisierte Erfassung, Archivierung und Pflege der Daten führen nur 5 Prozent der Unternehmen durch.
Was das in der Praxis bedeutet:
- Scans ohne Textebene tauchen in keiner Suche auf.
- Liegen alte und neue Fassung eines Plans oder Vertrags nebeneinander, kann die Suche die alte zitieren. Datum und Pfad gehören deshalb in jeden Treffer.
- Fragen ohne Treffer zeigen Lücken. Sie sollten als Liste bei einer benannten Person ankommen, die die Ablage pflegt.
Microsoft empfiehlt, vor dem Bau repräsentative Testdokumente und Testfragen zu sammeln und jeden Schritt einzeln zu bewerten. Für ein Büro heißt das: Fragen aus dem Alltag sammeln, notieren, wo die Antwort tatsächlich steht, und danach messen, ob die Suche sie findet.
Was eine Wissensbasis nicht leistet
Sie findet kein Wissen, das nirgends aufgeschrieben ist. Sie ersetzt nicht die Prüfung am Original, wenn etwas in einen Vertrag, einen Nachtrag oder ein Schreiben übernommen wird. Und sie braucht Regeln, welche Ordner hineindürfen. Personal- und Mieterakten gehören in der Regel nicht in eine allgemeine Projektsuche. Ob und wie Sie die Unterlagen verarbeiten dürfen, klärt Ihr Datenschutzbeauftragter, im Einzelfall auch Ihr Anwalt.
Was Sie jetzt tun können
- Sammeln Sie zehn Fragen, die in den letzten Wochen im Büro gestellt wurden, und notieren Sie, wo die Antwort stand.
- Öffnen Sie in einem abgeschlossenen Projekt zehn zufällige PDFs und versuchen Sie, einen Satz daraus zu markieren. Wo das nicht geht, ist es ein Scan ohne Textebene.
- Benennen Sie eine Person, die für die Ordnung der Ablage zuständig ist.
- Legen Sie fest, welche Ordner nie in eine gemeinsame Suche gehören.
Allgemeine Information, keine Rechts- oder Steuerberatung. Den Einzelfall klären Ihr Steuerberater, Ihr Datenschutzbeauftragter oder Ihr Anwalt.
Häufige Fragen
Müssen unsere Projektdaten dafür in eine Cloud?
Nein, nicht zwingend. Eine Wissensbasis lässt sich bei einem Anbieter in der EU oder lokal in Ihrem Haus betreiben. Welcher Weg für Ihre Unterlagen zulässig ist, bewertet Ihr Datenschutzbeauftragter.
Findet die Suche auch Inhalte in alten Scans?
Nur, wenn eine Texterkennung den Text vorher lesbar gemacht hat. Wie gut das gelingt, hängt von der Qualität der Scans ab und wird an einer Stichprobe geprüft.
Erfindet die KI Antworten?
Ein Sprachmodell kann auch bei guten Treffern etwas Falsches schreiben. Deshalb steht zu jeder Aussage eine Fundstelle, und Ihre Leute prüfen am Original, bevor etwas verwendet wird.
Quellen
- Lewis et al. (2020): Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, arXiv:2005.11401 (abgerufen am 13.11.2026)
- Microsoft Learn: Design and Develop a RAG Solution on Azure (abgerufen am 13.11.2026)
- Microsoft Learn: Develop a RAG Solution, Chunking Phase (abgerufen am 13.11.2026)
- Microsoft Learn: Hybrid Search Overview (Azure AI Search) (abgerufen am 13.11.2026)
- Fraunhofer IRB: Umfrage Neues Arbeiten in Architektur- und Ingenieurbüros (Onlinebefragung März 2026) (abgerufen am 13.11.2026)