Warum KI-Antworten eine Quellenangabe brauchen

KI-Antworten brauchen eine Quellenangabe, weil ein Sprachmodell schreibt, was wahrscheinlich klingt, und nicht, was belegt ist. Ohne Dokument und Seite können Sie eine Antwort nicht prüfen. Bei Fristen, Mengen, Beträgen und Normständen darf sie ohne diesen Beleg weder in einen Vertrag noch in ein Schreiben.

Warum Modelle Falsches erfinden

Fachleute nennen erfundene, aber überzeugend klingende Aussagen Halluzinationen. Eine Arbeit von Kalai und Kollegen aus dem Jahr 2025 erklärt sie so: Training und Bewertung belohnen das Raten gegenüber dem Eingeständnis von Unsicherheit. Die verbreiteten Bewertungen prüfen nur auf richtig oder falsch und geben für „weiß ich nicht“ keine Punkte, für eine geratene Antwort dagegen manchmal schon. Ein Modell wird so zum guten Prüfungsteilnehmer, der lieber rät.

Schon die Veröffentlichung von 2020, auf der die Suche mit anschließender Antwort (RAG) beruht, nennt den Nachweis der Herkunft einer Aussage als offenes Problem vortrainierter Modelle. Eine Suche in Ihren Dokumenten hilft, denn das Modell bekommt echte Textstellen vorgelegt (was ein Sprachmodell grundsätzlich kann und was nicht, steht in Sprachmodell: was es kann und was nicht). Sie macht Fehler aber nicht unmöglich. Anthropic schreibt in seiner Dokumentation zu diesem Thema, die dort beschriebenen Verfahren senkten Halluzinationen deutlich, beseitigten sie aber nicht. Kritische Angaben seien immer zu prüfen.

Das folgende Beispiel hat erfundene Daten. Die Frage lautet: „Welche Frist gilt für die Schlusszahlung im Projekt Musterstraße?“

• Antwort A: „17 Werktage.“ Sie nennt keine Quelle. Sie kann stimmen, aber niemand weiß es.
• Antwort B: „17 Werktage nach Zugang der Schlussrechnung. Quelle: Bauvertrag Musterstraße, Seite 9, Auszug: ‚…Schlusszahlung innerhalb von 17 Werktagen nach Zugang…‘.“

Bei B schlägt jemand Seite 9 auf und sieht sofort, ob es stimmt. Bei A fängt die Suche von vorn an.

Woran Sie eine gute Quellenangabe erkennen

Eine brauchbare Fundstelle enthält vier Angaben: den Dokumentnamen, die Seite, die Textstelle im Wortlaut und das Datum oder die Fassung des Dokuments. Eine Wissensbasis liefert sie aus ihrem Index.

Anthropic empfiehlt für lange Dokumente (die Dokumentation nennt mehr als 20.000 Token) ein ähnliches Muster. Das Modell zieht zuerst wörtliche Zitate heraus und antwortet danach nur auf Grundlage dieser Zitate. Findet es für eine Aussage kein stützendes Zitat, soll es sie zurücknehmen. Außerdem soll es sagen dürfen, dass es etwas nicht weiß. Schon diese Erlaubnis kann laut Dokumentation falsche Angaben stark verringern. „Nicht gefunden“ ist deshalb eine gültige und erwünschte Antwort einer Wissensbasis.

Bei Microsoft heißt das Prüfmaß dafür Groundedness, auf Deutsch etwa Belegtheit. Es misst, ob die Antwort vollständig auf den gefundenen Texten beruht. Daneben nennt die Architekturdokumentation Vollständigkeit, Nutzung der Treffer, Relevanz und Korrektheit. Sie empfiehlt, die Ergebnisse zu dokumentieren und über viele Anfragen zusammenzufassen.

Woher die Fundstelle kommt

In einer Wissensbasis erzeugt das Modell die Fundstelle nicht aus dem Gedächtnis. Sie stammt aus dem Index, der beim Einlesen Dokumentname, Seite und Abschnitt gespeichert hat, und wird mit dem Treffer weitergereicht. Microsoft beschreibt das bei seinen Dokumentdiensten als Quellenverankerung: Jeder extrahierte Wert lässt sich bis zu seiner Position im Dokument zurückverfolgen. Die Antwort bleibt ein Vorschlag, aber die Fundstelle ist ein Verweis, den Sie nachprüfen können. Wie eine solche Wissensbasis aufgebaut wird, beschreibt Projektablage durchsuchbar machen.

Die Prüfung vor dem Verwenden

Die vier Fragen der Grafik sind schnell gestellt. Entscheidend ist, dass sie zur Routine werden und jemand sie vermerkt: wer, wann, an welchem Dokument.

Für die Stichprobe gilt: In der Anlaufzeit prüft die benannte Ansprechperson jede Antwort mit Zahl, Frist oder Norm und von den übrigen eine Auswahl, als Annahme zum Start etwa jede zehnte. Zählen Sie dabei mit. Der Anteil der Antworten, die das Original nicht stützt, ist Ihre eigene Messgröße. Sinkt er nicht, lohnt der Blick auf Ablage und Fragestellung.

Halten Sie je geprüfter Antwort vier Dinge fest: die Frage selbst, ob die Fundstelle stimmt, ob das Original die Aussage stützt und ob es die aktuelle Fassung war. Aus den Fehlern ergibt sich die Art der Gegenmaßnahme. Stimmt die Fundstelle nicht, liegt der Fehler in Einlesen oder Index. Stützt das Original die Aussage nicht, hat das Modell falsch zusammengefasst. Stammt der Treffer aus einer alten Fassung, fehlt in der Ablage eine Kennzeichnung. Ein Treffer kann auch zu eng sein, etwa wenn eine Ausnahme zwei Absätze weiter steht. Das merken Sie nur, wenn jemand die Umgebung der Stelle liest und nicht nur den Auszug.

Wann Sie eine Antwort nicht verwenden dürfen

Es gibt Angaben, bei denen ein Fehler teuer wird und eine Antwort ohne Beleg deshalb nichts zählt:

Die Fünf-Jahres-Frist ist hier nur als Beispiel genannt. Ob und wann sie in Ihrem Fall gilt, klärt Ihr Rechtsbeistand.

Grenzen der Quellenangabe

Eine Fundstelle beweist, dass die Textstelle existiert. Sie beweist nicht, dass sie zur Frage passt, dass sie richtig zusammengefasst wurde oder dass sie noch gilt. Ein Modell kann eine echte Stelle falsch wiedergeben, und eine alte Fassung liegt in vielen Ablagen neben der neuen. Deshalb gehören Datum und Pfad in jeden Treffer, und die letzte Entscheidung bleibt bei Ihren Leuten.

Wie viel sich vermeiden lässt, hängt an einer gepflegten Datenbasis und an eingespielten Abläufen. Eine Prozentzahl vermiedener Fehlantworten nenne ich bewusst nicht, weil mir dafür keine Studie vorliegt, die auf Bauunterlagen übertragbar wäre. Wie viele Fehlantworten bei Ihnen übrig bleiben, zeigt Ihre eigene Stichprobe.

Was Sie jetzt tun können

1. Führen Sie die Regel ein: Keine Zahl, Frist oder Norm aus einer KI-Antwort geht in ein Schreiben oder einen Vertrag, solange die Fundstelle nicht am Original gelesen wurde.
2. Stellen Sie zehn Fragen, deren Antwort Sie kennen, und zählen Sie, wie oft Antwort und Fundstelle stimmen.
3. Legen Sie einen Prüfvermerk fest: wer hat wann an welchem Dokument geprüft.
4. Bestimmen Sie, welche Angaben immer eine zweite Person am Original prüft.