Die Quelle hinter der KI-Antwort

Eine Quellenangabe sieht nach Transparenz aus. Sie kann zu einer Studie, einem Gesetzestext oder einer Produktdokumentation führen. Doch ein Link beantwortet noch nicht die entscheidende Frage: Trägt genau diese Quelle genau die Aussage, für die die KI sie anführt – in diesem Kontext, für diese Gruppe, zu diesem Zeitpunkt und mit dieser Einschränkung?

Dieser Artikel entwickelt eine praktische Nachweiskette für KI-gestützte Fachtexte. Sie führt von einer einzelnen Behauptung über eine passende Originalquelle und die relevante Fundstelle bis zu einer begrenzten Formulierung, einer offenen Lücke oder einer begründeten Enthaltung. Ein Quellenverweis wird damit zum überprüfbaren Arbeitsweg, nicht zum Vertrauensabzeichen. Das Fragenmodell F macht die Recherchefrage präzise. Das Konsultationsmodell K hilft anschließend, aus der geprüften Evidenz eine verantwortbare Organisationsentscheidung zu machen. Beide Modelle organisieren menschliche Arbeit; keines verwandelt eine Behauptung von selbst in Wissen.

Der durchgehende Praxisfall ist vollständig fiktiv und bildet kein reales Unternehmen oder tatsächliches Kursgeschehen ab.

1. Die kurze Frage am Ende eines langen Arbeitstags

Ein fiktiver Weiterbildungsanbieter mit einem kleinen Redaktionsteam möchte auf seiner Website eine Aussage über KI-gestützte Recherche veröffentlichen. Ein Textsystem hat einen Absatz entworfen und mehrere Quellen verlinkt. Eine Kollegin fragt: „Die Quellen sind doch dabei. Können wir die Aussage so freigeben?“

Die Frage ist verständlich. Das Team hat wenig Zeit, die Quellenliste sieht professionell aus und die Aussage passt zur geplanten Botschaft. Zugleich geht es um einen öffentlichen Fachtext. Wird ein Forschungsergebnis überdehnt, können Leserinnen und Leser daraus eine verlässliche Eigenschaft aller Systeme ableiten. Wird ein älteres Ergebnis als aktuell dargestellt, kann die Seite eine Lage suggerieren, die die Studie gar nicht untersucht hat. Und wenn eine Quelle nur einen Teil des Satzes stützt, bleibt der Rest scheinbar belegt.

Die angemessene Antwort ist weder „Jede KI-Angabe ist falsch“ noch „Ein Link genügt“. Sie beginnt mit einer kleineren Einheit: Was genau ist der Satz, und welchen Teil davon müsste die Quelle tragen? Erst danach kann das Team entscheiden, wie tief die Prüfung sein muss und was mit einer Lücke geschieht.

Das verändert die Aufgabe. Statt eine Quellenliste als Ganzes abzunicken, prüft das Team eine Folge einzelner Aussagen. Es muss nicht jede Aussage der Welt neu beweisen. Es muss aber sichtbar machen, welche Aussage auf welche Stelle gestützt wird, welche Einschränkung dazugehört und wer bei einer offenen Lücke weiterarbeitet oder stoppt.

Im Serienbogen schließt dieser Artikel an die Frage aus „Kohärenz ist keine Wahrheit“ an, ob plausible Sprache überhaupt eine Aussage trägt, und setzt nach dem Blick von „Urteilen unter Zeitdruck“ auf verfügbare Prüfzeit bei einer einzelnen Behauptung an: Welches Original stützt sie, wo steht die relevante Passage und wie weit reicht deren Aussage? Ein späterer Artikel dieser Reihe untersucht anschließend, wie mehrere Modelle fair verglichen werden.

2. Fünf Dinge, die ein Quellenverweis nicht miteinander verwechselt

Im Alltag bedeutet „Quelle geprüft“ oft mehrere sehr verschiedene Dinge. Für eine belastbare Entscheidung lohnt es sich, mindestens fünf Fragen zu trennen.

Diese Ebenen sind keine fünf Häkchen, die immer denselben Aufwand erfordern. Sie sind fünf unterschiedliche Antworten, die eine pauschale Aussage wie „Die Quelle stimmt“ verdeckt. Eine DOI-Abfrage kann etwa Identität und registrierte Metadaten klären. Sie zeigt nicht, ob Seite 14 die konkrete Formulierung trägt. Ein geöffnetes PDF zeigt Zugänglichkeit. Es belegt nicht, dass die Studie über die im Text genannte Branche, den Zeitraum oder die Wirkung gesprochen hat.

Auch das Wort „Primärquelle“ löst das Problem nicht allein. Eine Originalstudie kann eine Frage direkt untersuchen und trotzdem methodische Grenzen haben. Ein Gesetzestext kann die geltende Norm wiedergeben, ohne die Folgen eines Geschäftsprozesses zu beantworten. Eine offizielle Produktseite ist für die Version des Herstellers eine naheliegende Quelle, aber keine unabhängige Qualitätsprüfung. Im hier verwendeten Prüfrahmen bezeichnet „Primärquelle“ die Nähe zum untersuchten Gegenstand oder zur zuständigen Originalveröffentlichung – nicht automatisch Güte, Unabhängigkeit oder Reichweite.

3. Eine Zitierung ist ein Wegweiser, kein Wahrheitsstempel

Eine Quellenangabe verwandelt einen fließenden KI-Text in etwas, das wie ein überprüfter Bericht aussieht: Satz, Klammerverweis, Link. Diese Form kann mit der tatsächlichen Begründungsarbeit verwechselt werden. Der Verweis ist zunächst eine Einladung zur Prüfung. Erst am Ziel lässt sich feststellen, ob das Werk existiert, ob die relevante Stelle auffindbar ist und ob sie die Aussage in ihrer Reichweite trägt.

Erkenntnis beruht oft auf geteilter Arbeit: Menschen verlassen sich auf Zeugnisse, Fachrollen, Archive und institutionelle Verfahren, weil niemand alle Tatsachen selbst rekonstruieren kann. Vertrauen folgt aber nicht allein aus einer selbstbewussten Formulierung oder Fußnote. Es hängt davon ab, worauf sich die Aussage stützt, ob andere den Weg nachgehen können und welche Korrektur möglich ist. Ein KI-System kann einen Verweis ausgeben; daraus folgt weder menschliche Zeugenschaft noch ein verantwortlicher Forschungsakt. Die Organisation, die den Text nutzt, muss Verantwortung für Auswahl, Reichweite und mögliche Folgen übernehmen.

Das Ziel ist keine absolute Gewissheit, sondern eine nachvollziehbare und korrigierbare Beziehung zwischen Aussage und Beleg. Eine gute Quellenpraxis hinterlässt deshalb nicht nur eine Liste, sondern Fassung, Fundstelle, Annahmen und einen Revisionsweg.

4. Was die Forschung über zitierte Antworten zeigt

Forschung zu automatisch erzeugten Zitaten untersucht verschiedene Eigenschaften: Vollständigkeit und Korrektheit von Verweisen, Belegzuordnung zu einzelnen Aussagen und die Frage, ob ein System die angegebene Quelle tatsächlich verwendet hat. Diese Fragen sind verbunden, aber nicht austauschbar.

Gao und Mitautorinnen und Mitautoren entwickelten ALCE als Benchmark zur automatischen Bewertung von Antworten mit Zitaten. Der Benchmark unterscheidet unter anderem Antwortqualität und Qualität der Zitationen. Auf dem ELI5-Datensatz fehlte auch bei den besten untersuchten Systemen in 50 Prozent der Fälle vollständige Zitationsstützung. Diese Zahl bezieht sich auf die Bedingungen dieses Datensatzes und dieser Untersuchung. Sie bedeutet weder, dass die Hälfte aller KI-Zitate generell falsch ist, noch dass jedes einzelne Modell im Alltag denselben Wert erreicht. Ihre praktische Bedeutung ist enger und zugleich nützlich: Eine Antwort kann sprachlich überzeugend und mit Belegen versehen sein, während die Belegdeckung für ihre Aussagen unvollständig bleibt. [1]

Wallat und Mitautorinnen und Mitautoren unterscheiden Zitationskorrektheit von Zitationstreue. Eine Quelle kann eine Aussage inhaltlich stützen, ohne dass das Modell sie beim Erzeugen der Aussage tatsächlich als Grundlage verwendet hat; der Verweis kann nachträglich an eine bereits formulierte Antwort angepasst worden sein. In ihren Experimenten fanden sie unter den untersuchten Bedingungen bis zu 57 Prozent nicht treue Zitationen. Dieser Höchstwert beschreibt ihre Studie, nicht eine allgemeine Quote für alle RAG-Systeme oder eine Feststellung, dass die entsprechenden Quellen erfunden wären. Für die redaktionelle Praxis folgt daraus eine wichtige Grenze: Das Öffnen und Prüfen des Originals kann feststellen, ob die Quelle die Aussage trägt. Es beweist nicht, welchen Entstehungsweg ein Modell genommen hat. Eine zugängliche, zweckgeeignete Prozessdokumentation kann zusätzliche Evidenz über Retrieval und Verarbeitung liefern; auch ihre Reichweite muss gesondert beurteilt werden. [2]

Buchmann und Kolleginnen untersuchten Quellenzuordnung bei langen Dokumenten. Ihr LAB-Benchmark umfasst sechs Aufgabenbereiche; in fünf Modellen untersuchten sie, wie Antwort und Beleg zusammenpassen. Die Qualität der Evidenz sagte in einfachen Antwortaufgaben eher die Qualität der Antwort voraus, bei komplexen Antworten zeigte sich diese Beziehung nicht in gleicher Weise. Die Modelle hatten Schwierigkeiten, komplexe Behauptungen mit Belegen zu versehen. Der Befund spricht dafür, lange oder zusammengesetzte Aussagen vor der Prüfung in kleinere Behauptungen aufzuteilen. Er belegt nicht, dass jede komplexe Aussage unbelegbar wäre. [3]

Agrawal und Mitautorinnen untersuchten erfundene Buch- und Artikelreferenzen. In ihren Tests gaben Sprachmodelle zu erfundenen Referenzen häufig widersprüchliche Autorinnen- oder Autorenlisten aus, während sie reale Angaben oft konsistenter erinnerten. Eine solche Abweichung kann ein Warnsignal sein. Sie ersetzt jedoch keine externe Prüfung: Ein Modell kann eine reale Referenz konsistent nennen und sich trotzdem bei Titel, Jahr oder Aussage geirrt haben. Umgekehrt macht eine widersprüchliche Antwort die Identität des Werks noch nicht allein abschließend unbestimmbar. Konsistenzfragen eignen sich als Vorprüfung, nicht als Existenznachweis. [4]

Dhuliawala und Mitautorinnen untersuchten eine Chain-of-Verification: Das Modell entwirft zunächst eine Antwort, erzeugt getrennte Prüffragen, beantwortet diese unabhängig und formuliert anschließend eine neue Antwort. In Experimenten zu Listenfragen aus Wikidata, Closed-Book-MultiSpanQA und Langtextgenerierung verringerte das Verfahren Halluzinationen. Das ist eine relevante Prozessidee: Fragen sollten nicht bloß die ursprüngliche Aussage bestätigen, sondern sie an unabhängigen Prüfpunkten auseinandernehmen. Doch auch eine zweite Antwort desselben Modells ist keine externe Originalquelle. Die Methode kann eine Recherche vorbereiten; sie ersetzt weder die Quellenidentifikation noch die Prüfung der tatsächlichen Textstelle. [5]

Zusammen zeigen diese Arbeiten keine universelle Fehlerquote und kein Verfahren, das jede Aussage garantiert absichert. Sie zeigen verschiedene Fehlerflächen: unvollständige Stützung, nachträgliche Zuordnung, schwierige Belegführung bei komplexen Aussagen und Grenzen rein modellinterner Konsistenzprüfung. Genau deshalb sollte eine Quellenprüfung ihre eigenen Ergebnisse eng formulieren.

5. Warum die kleinste Behauptung oft die bessere Suche eröffnet

Die Suche beginnt häufig mit einem ganzen Absatz: „Belege, dass KI die Recherche in kleinen Unternehmen schneller und zuverlässiger macht.“ Darin stecken mehrere Fragen. Was bedeutet „Recherche“? Welches System und welche Aufgabe? Gegenüber welcher Alternative? Welche Gruppe, welcher Zeitraum und welche Messgröße? Geht es um Zeitersparnis, Fehlerquote oder wahrgenommenen Nutzen? Ist „zuverlässiger“ ein gemessener Befund oder ein Werturteil?

Wer den Satz als Ganzes sucht, findet leicht Treffer, die ähnlich klingen, aber nicht dieselbe Behauptung prüfen. Ein Paper über Wissensfragen wird dann zum Beleg für Projektentscheidungen; eine Laborsituation zur Aussage über den Arbeitsalltag; eine positive Einzelmetrik zur allgemeinen Zuverlässigkeit. Das Risiko liegt nicht nur in erfundenen Referenzen. Eine echte Quelle kann eine zu große Behauptung ebenso wenig tragen wie eine falsche.

Für die Prüfung wird ein Satz deshalb in seine tragenden Teile zerlegt. Eine nützliche Arbeitsform ist:

Wer oder was? + welche Eigenschaft oder Handlung? + in welchem Kontext und Zeitraum? + gemessen woran? + im Vergleich womit? + mit welcher Stärke oder Einschränkung?

Beispielsweise ist „Systeme mit Quellenangaben sind verlässlicher“ noch keine gut prüfbare Aussage. „Im Benchmark ALCE erreichten die besten untersuchten Systeme im ELI5-Setting keine vollständige Zitationsstützung in 50 Prozent der Fälle“ nennt Systemklasse, Testumgebung, Eigenschaft, Vergleichsbezug und Messgrenze wesentlich genauer. Eine solche Präzisierung kann den Satz weniger werblich machen. Sie macht ihn dafür nachprüfbar.

Eine gute Suche beginnt also nicht mit möglichst vielen Treffern, sondern mit einer präzisen Behauptung. Erst wenn klar ist, was in welchem Rahmen gelten soll, lässt sich entscheiden, welche Art von Quelle die Frage beantworten könnte.

6. F in der Recherche: von der offenen Frage zur prüfbaren Endfrage

Das Fragenmodell F ist in diesem Artikel nicht als Zauberprompt gemeint. Es strukturiert die Formulierung des Rechercheauftrags in seiner Reihenfolge A → B → D → C. Die vier Schritte verhindern, dass die erste plausible Formulierung schon als endgültige Frage behandelt wird.

A: Begriffe, Ziel und Ursache klären

Im fiktiven Redaktionsteam lautet der Anfangsimpuls: „Stimmt die KI-Behauptung?“ A fragt genauer: Welche einzelne Behauptung ist entscheidungsrelevant? Was bedeutet „stimmt“ in diesem Fall? Soll die Quelle existieren, die Aussage stützen oder ihre Übertragbarkeit auf das Kursangebot belegen? Welche Veröffentlichung soll aus der Prüfung folgen?

Das Ergebnis ist zunächst ein Arbeitsgegenstand, kein Urteil: Das Team trennt die Aussage „ALCE testet zitierte Antworten“, den konkreten Zahlenwert im ELI5-Setting und die allgemeine Folgerung, Zitate machten KI-Antworten zuverlässig. Diese drei Teile benötigen unterschiedliche Belege – und der letzte ist nicht automatisch eine empirische Aussage.

B: Gegenhypothesen und alternative Erklärungen bilden

B öffnet die Frage, bevor die Recherche in einem bevorzugten Treffer endet. Vielleicht stützt der zitierte Artikel nur eine engere Population. Vielleicht stammt die Zahl aus einer Zusammenfassung und wurde über mehrere Übernahmen verändert. Vielleicht ist der Link echt, aber die Quellenpassage behandelt einen anderen Messwert. Vielleicht hat das System die Referenz nachträglich zugeordnet. Vielleicht liegt ein echter Widerspruch zwischen Studien vor.

SCAMPER kann bei Bedarf Varianten eines Suchwegs sichtbar machen, Bloom bei der Unterscheidung zwischen Wiedergeben, Analysieren und Bewerten helfen, und 5-Why bei einer konkreten Ursachenfrage ansetzen. Diese Methoden sind Werkzeuge im Fragenraum. Sie erhöhen nicht die Wahrscheinlichkeit, dass eine bestimmte Quelle recht hat. Auch eine lange Hypothesenliste ist noch kein Evidenzvergleich.

D: Zweifel, Abweichungen und Revision sichtbar machen

D fragt: Was würde die Ausgangsannahme schwächen? Welche notwendige Information fehlt? Welche Gegenquelle ist sachlich passend? Gibt es einen Konflikt über Version, Zeitraum oder Messgröße? Kann das Team ohne Primärtext die Aussage noch beurteilen? An welcher Stelle würde es die Suche abbrechen, die Formulierung begrenzen oder eine Fachrolle hinzuziehen?

Das ist eine Fehlerschleife, keine nachträgliche Dekoration. Wenn der Text ein „bestes Modell“ erwähnt, aber die Studie nur bestimmte Systeme im ELI5-Setting vergleicht, muss die Behauptung zurück in A oder B. Wenn ein zweiter Treffer die Aussage nicht widerlegt, aber den Geltungsbereich verschiebt, wird diese Verschiebung dokumentiert.

C: Die Endfrage und die Evidenzlücke festhalten

Erst jetzt bündelt C die Suche. Für die konkrete Zahl könnte die Endfrage lauten: „Berichtet Gao et al. im Originalpaper für das ALCE-ELI5-Setting, dass selbst die besten in dieser Bedingung untersuchten Systeme in 50 Prozent der Fälle keine vollständige Zitationsstützung erreichen, und wie definieren sie citation support?“

Die Endfrage ist kleiner und anspruchsvoller als der Anfangsimpuls. Sie legt fest, welche Quelle gesucht wird, welche Textstelle dafür gebraucht wird und welche Information im Artikel offenbleibt. Der GROW-Teil des Modells kann anschließend Ziel, gegenwärtigen Stand, verfügbare Wege und den nächsten Schritt formulieren: Ziel ist eine begrenzte öffentliche Aussage; bekannt ist die Zusammenfassung, aber die operative Definition muss im Paper gelesen werden; möglich sind Originaltext, Appendix und Benchmarkbeschreibung; als nächster Schritt wird die relevante Passage geprüft. Der GROW-Plan ist eine Arbeitsplanung, kein Wahrscheinlichkeitsmodell und kein Beweis.

F verändert hier die Recherche, indem aus „Stimmt die KI?“ eine präzise, begrenzte Such- und Prüfaufgabe wird. Wenn C eine Lücke offenlässt, ist „offen“ ein valides Ergebnis. Das Modell zwingt nicht zu einem Ja.

7. Eine Nachweiskette, die sich im Alltag wiederholen lässt

Für Unterricht und KMU reicht oft eine schlanke Quellenkarte pro entscheidungsrelevanter Behauptung. Sie hält nicht jeden Gedanken fest. Sie bewahrt die Schritte, die später eine Korrektur oder Wiederholung möglich machen.

Schritt 1: Behauptung einzeln erfassen

Kopiere oder paraphrasiere die Aussage und teile sie, wenn sie mehrere Tatsachen, Vergleiche oder Schlussfolgerungen verbindet. Bewahre wichtige Modalwörter: „kann“, „zeigt“, „im Mittel“, „unter diesen Bedingungen“, „laut Anbieter“ und „muss“ bedeuten nicht dasselbe. Ein Satz mit drei Teilaussagen kann am Ende drei unterschiedliche Status haben.

Schritt 2: Quelle passend zur Frage wählen

Bei einer empirischen Studienbehauptung führt die Suche möglichst zum Originalpaper oder zum ursprünglichen Datensatz. Für eine Rechtslage ist die zuständige amtliche Quelle im passenden Rechtsraum und zum relevanten Stichtag wichtig. Bei einer konkreten Produktfunktion ist die offizielle Dokumentation der betreffenden Produktversion eine passende Quelle; eine unabhängige Leistungsbewertung wäre eine andere Frage. Eine systematische Übersicht kann für eine breite Forschungsfrage geeignet sein, sollte aber nicht als Einzelstudie ausgegeben werden.

„Primär“ heißt nicht „allein ausreichend“. Bei einer strittigen oder für Betroffene folgenreichen Behauptung kann die passende Prüfung zusätzliche Studien, Gegenbelege, ein Fachreview oder die einschlägige Norm erfordern. Sekundärquellen helfen, Debatten und Fachbegriffe zu kartieren. Wenn die veröffentlichte Entscheidung aber von einer konkreten Stelle abhängt, sollte diese Stelle im zuständigen Original auffindbar sein.

Schritt 3: Bibliografische Identität prüfen

Vergleiche Titel, Autorenschaft, Publikationsjahr, Verlag oder Konferenz, DOI und Link. Eine DOI kann als dauerhafte Identifikation und Auflösung helfen. Crossrefs REST-API stellt die bei Crossref hinterlegten Metadaten zu registrierten Objekten bereit. Metadaten können aber falsch, unvollständig oder veraltet sein; eine DOI-Auflösung belegt weder Peer-Review-Qualität noch die Unterstützung einer bestimmten Aussage. Daher wird eine registrierte Identität zusätzlich am Originalpublisher oder an der zuständigen offiziellen Quelle abgeglichen. [6]

Wenn Titel, Jahr oder Autorenschaft nicht zusammenpassen, bleibt der Status offen, bis die Abweichung geklärt ist. Ein Suchtreffer-Snippet, eine automatisch erzeugte Literaturliste oder die Antwort des Modells auf „Gibt es diese Quelle wirklich?“ reicht nicht als Identitätsnachweis.

Schritt 4: Originaltext und Fundstelle öffnen

Gehe nicht bei einer Sekundärzusammenfassung stehen, wenn deine Aussage von der Originalpassage abhängt. Notiere Seite, Abschnitt, Tabelle, Datensatzvariable oder Normstelle. Bei dynamischen Produktdokumenten gehören Versionsnummer und Abrufdatum in die Quellenkarte. Bei Webquellen kann ein Abrufdatum später zeigen, welche Fassung geprüft wurde.

Lies mehr als den Halbsatz, den die KI markiert hat. Definition, Methode, Fußnote und Einschränkung können den Bedeutungsrahmen verändern. Eine Tabelle braucht Überschrift und Einheiten. Ein gesetzlicher Absatz braucht die einschlägigen Begriffe und die Regelung, auf die er verweist. Bei einer Studie sind Abstract und Diskussion nicht immer genug, um Population und Messverfahren korrekt wiederzugeben.

Schritt 5: Geltungsbereich gegen die Formulierung halten

Prüfe mindestens: Untersuchungsgruppe, Ort und Arbeitskontext, Zeitspanne, Intervention oder Systemversion, Messgröße, Vergleichsbedingung, Unsicherheitsangaben und ausdrücklich genannte Grenzen. Frage zusätzlich, ob die Quelle einen Zusammenhang beschreibt oder eine Ursache belegt. Achte auf den Unterschied zwischen „in dieser Stichprobe beobachtet“, „im Test erreicht“ und „wird in kleinen Unternehmen generell eintreten“.

Diese Prüfung ist kein mechanisches Wortmatching. Zwei Passagen können dieselben Begriffe verwenden und doch unterschiedliche Phänomene messen. Umgekehrt kann eine Quelle eine Aussage stützen, obwohl sie nicht exakt denselben Satz formuliert – wenn die zugrunde liegenden Bedingungen und Begriffe tatsächlich passen. Deshalb braucht die Karte eine begründete Zuordnung, nicht bloß eine Ähnlichkeitszahl.

Schritt 6: Status vergeben und Text entscheiden

Verwende ein knappes Statusschema:

GESTÜTZT: Die auffindbare Passage trägt die begrenzte Aussage im angegebenen Geltungsbereich.

TEILWEISE GESTÜTZT: Ein Teil ist belegt; andere Teile fehlen, widersprechen sich oder reichen weiter als der Befund.

UNGESTÜTZT: Die erwartete Passage trägt die Aussage nicht oder der notwendige Beleg fehlt.

WIDERSPRÜCHLICH: Passende Quellen kommen zu unterschiedlichen Ergebnissen oder eine Quelle steht im erkennbaren Konflikt mit der Aussage.