TL;DR. Eine Quellenangabe ist keine Prüfung. In einer von Menschen bewerteten Prüfung von vier generativen Suchmaschinen wurden nur 51,5 Prozent der erzeugten Sätze vollständig von ihren Quellenangaben gestützt. In einer Studie zu medizinischen Antworten aus dem Jahr 2025 ließ selbst GPT-4o mit Websuche 30,3 Prozent seiner Aussagen ohne Stütze durch die eigenen Quellen; eine als Preprint veröffentlichte Prüfung von Such- und Deep-Research-Systemen aus dem Jahr 2025 fand Anteile nicht gestützter Aussagen von 12,5 bis 97,5 Prozent. Das Modell zu bitten, sich selbst noch einmal zu prüfen, bringt wenig: Ohne Rückmeldung von außen fiel die Genauigkeit von GPT-3.5 bei einem Reasoning-Benchmark von 75,8 auf 41,8 Prozent. Was funktioniert, ist das, was professionelle Faktenprüfer tun: die Antwort in Behauptungen zerlegen, die Quelle öffnen, den genauen Satz finden und lateral lesen, um zu erfahren, wer hinter der Quelle steht. CEO-Schritt: Legen Sie einen Prüfstandard für alles fest, was unter Ihrem Namen erscheint, und halten Sie darin fest, was nachverfolgt werden muss, von wem und wie gründlich. Student-Schritt: Üben Sie das Zerlegen von Behauptungen und das laterale Lesen, und führen Sie ein Logbuch darüber, was Sie geprüft haben und was durchgefallen ist.
Dieser Leitfaden gehört zum Cluster Bewertungskompetenz. Der Leitfaden zu Warnsignalen behandelt Warnzeichen, die innerhalb einer einzelnen Antwort sichtbar sind, die Prüfsteuer behandelt, was das Prüfen kostet, und warum KI halluziniert behandelt die Mechanik. Dieser Beitrag ist das Verfahren, das Sie anwenden, bevor Sie sich auf eine Antwort verlassen.
Warum brauchen Sie ein Verfahren statt eines Bauchgefühls?
Weil das Gefühl in die falsche Richtung zeigt. Als Nelson Liu, Tianyi Zhang und Percy Liang in Stanford Anfang 2023 vier generative Suchmaschinen anhand von 1.450 Anfragen prüften, war die Zitationspräzision umgekehrt mit dem wahrgenommenen Nutzen korreliert: Die Antworten, die am hilfreichsten wirkten, waren oft diejenigen mit mehr nicht gestützten Aussagen oder ungenauen Quellenangaben.
Vertrauen schaltet das Prüfen zudem ab. In zwei präregistrierten Experimenten mit insgesamt 5.387 Teilnehmenden zeigten Folco Panizza und Kollegen einem Teil der Teilnehmenden ein Pop-up, das laterales Lesen und Klickzurückhaltung empfahl. In einer explorativen Analyse des ersten Experiments wandten nur 6,7 Prozent dieser Teilnehmenden die Techniken an, wenn ein Beitrag von einer vertrauenswürdigen Quelle stammte, gegenüber 20 Prozent, wenn die Quelle unbekannt war. Eine KI-Antwort mit ordentlichen Fußnoten sieht aus wie eine vertrauenswürdige Quelle. Ein schriftlich festgelegtes Verfahren bindet das Prüfen an die Art der Behauptung und an die Tragweite, nicht daran, wie sich die Antwort anfühlt.
Stützt die Quellenangabe die Behauptung tatsächlich?
Drei Studien haben Aussage für Aussage geprüft, ob KI-Antworten von den Quellen gedeckt sind, die sie angeben. Sie unterscheiden sich in der Aufgabe (Webfragen, medizinische Fragen, Debatten- und Expertisefragen), in der Bewertung (menschliche Annotatoren; ein GPT-4o-Bewerter, der in 88,7 Prozent der Fälle mit dem Konsens von drei Ärzten übereinstimmte, gegenüber einer durchschnittlichen Übereinstimmung der Ärzte untereinander von 86,1 Prozent; ein GPT-5-Bewerter, der an menschlichen Bewertern validiert wurde), im Zeitraum (2023 bis August 2025) und in der Einheit. Liu und Kollegen verlangten, dass die eigenen Quellenangaben einer Aussage diese vollständig stützen; Kevin Wu, Eric Wu, James Zou und Kollegen akzeptierten jede Quelle in der Antwort; DeepTRACE, ein Preprint von Pranav Narayanan Venkit und Kollegen vom September 2025, akzeptierte jede aufgeführte Quelle. Die Tabelle ist beschreibend, keine Rangliste.
Stützt die Quellenangabe die Behauptung? Anteil gestützter und nicht gestützter Aussagen, nach System
| Studie (Bewertung; Zeitraum) | System, wie bezeichnet | Gestützte Aussagen (%) | Nicht gestützte Aussagen (%) | Quellenangaben, die ihre Aussage stützen (%) |
|---|---|---|---|---|
| Liu, Zhang und Liang (menschliche Annotatoren; Antworten von Februar-März 2023) | Bing Chat | 58,7 | 41,3* | 89,5 |
| NeevaAI | 67,6 | 32,4* | 72,0 | |
| perplexity.ai | 68,7 | 31,3* | 72,7 | |
| YouChat | 11,1 | 88,9* | 63,6 | |
| Wu et al., Nature Communications (GPT-4o-Bewerter, von Ärzten validiert; 800 medizinische Fragen) | GPT-4o (RAG) | 69,7 | 30,3* | k. A. |
| Gemini Ultra 1.0 (RAG) | 55,6 | 44,4* | k. A. | |
| GPT-4o (API) | 47,3 | 52,7* | k. A. | |
| Claude v2.1 (API) | 30,4 | 69,6* | k. A. | |
| Mistral Medium (API) | 27,8 | 72,2* | k. A. | |
| Mixtral-8x7b (API) | 15,8 | 84,2* | k. A. | |
| Gemini Pro (API) | 18,6 | 81,4* | k. A. | |
| DeepTRACE, Narayanan Venkit et al., Preprint (GPT-5-Bewerter; Korpus mit Stand 27. August 2025) | You.com (search) | 69,2* | 30,8 | 68,3 |
| BingChat (search) | 76,9* | 23,1 | 65,8 | |
| Perplexity (search) | 68,4* | 31,6 | 49,0 | |
| GPT 4.5 (search) | 53,0* | 47,0 | 39,8 | |
| GPT-5 Deep Research | 87,5* | 12,5 | 79,1 | |
| YouChat Deep Research | 25,4* | 74,6 | 72,3 | |
| GPT-5 Web Search | 41,1* | 58,9 | 31,4 | |
| Perplexity Deep Research | 2,5* | 97,5 | 58,0 | |
| Copilot Think Deeper | 9,8* | 90,2 | 62,1 | |
| Gemini Deep Research | 46,4* | 53,6 | 50,3 |
CEOtudent-Analyse von Liu, Zhang und Liang (2023), Wu et al. (2025, Supplementary Table 4) und Narayanan Venkit et al. (2025, Abbildung 2 und Tabelle 1). Nicht markierte Werte wie veröffentlicht (die Anteile von Wu et al. als Prozentwerte dargestellt); * = 100 minus der veröffentlichte Anteil. k. A. = nicht berichtet. Der DeepTRACE-Text nennt für Gemini Deep Research eine Zitationsgenauigkeit von 40,3 Prozent, Tabelle 1 weist jedoch 50,3 Prozent aus; gezeigt wird der Tabellenwert.
Vier Punkte fallen auf.
- Selbst das beste System jeder Studie ließ einen großen Anteil ungestützt: 31,3 Prozent in der Prüfung von Liu, 30,3 Prozent bei Wu, 12,5 Prozent bei DeepTRACE. In 19 der 21 Zeilen fehlte mindestens einem Viertel der Aussagen die Stütze; die Mediane lagen bei 36,9, 69,6 und 50,3 Prozent.
- Webzugang hilft, entscheidet die Sache aber nicht. In der Studie von Wu lieferten Modelle ohne Webzugang nur in 41,2 bis 68,7 Prozent der Fälle funktionierende URLs, und nur für wenige defekte Links gab es archivierte Versionen, was die Autoren als Zeichen dafür werten, dass sie erfunden waren. Bei DeepTRACE ließ GPT-5 Deep Research 12,5 Prozent ungestützt, GPT-5 Web Search 58,9 Prozent.
- Ganze Antworten schneiden schlechter ab als einzelne Aussagen. In der Studie von Wu enthielten 44,7 bis 93,0 Prozent der Antworten mindestens eine nicht gestützte Aussage. Der Princeton-Benchmark ALCE (EMNLP 2023) stellte fest, dass rund 50 Prozent der Baseline-Antworten von ChatGPT und GPT-4 auf dem ELI5-Datensatz nicht vollständig von den zitierten Passagen gestützt wurden.
- Mehr Quellen bedeuten nicht mehr Stütze. YouChat Deep Research führte 57,2 Quellen pro Antwort auf, etwa das 3,1-Fache der 18,3 von GPT-5 Deep Research, und ließ 74,6 Prozent der Aussagen ungestützt. In den Worten der Autoren: „Mehr Quellen und längere Antworten führen nicht zu Verlässlichkeit.“
Betrachten Sie diese Zahlen als Außensicht: In keiner der 21 Zeilen liegt die Basisrate für „diese zitierte Aussage ist nicht gestützt“ unter einem Achtel (12,5 Prozent).
Was tun professionelle Faktenprüfer, was andere nicht tun?
Die klarste Evidenz dazu, wie geübte Menschen unbekannte Informationen prüfen, stammt von Sam Wineburg und Sarah McGrew in Stanford. Sie beobachteten 45 Personen beim lauten Denken, während diese Live-Websites beurteilten: 10 promovierte Historiker, 10 professionelle Faktenprüfer und 25 Stanford-Bachelorstudierende.
Wie Faktenprüfer, Historiker und Studierende unbekannte Websites bewerteten
| Messgröße (Aufgabe) | Faktenprüfer (n = 10) | Promovierte Historiker (n = 10) | Bachelorstudierende (n = 25) |
|---|---|---|---|
| Mittlere Zeit bis zum Verlassen der Startseite des American College of Pediatricians (Mobbing-Aufgabe) | 32 s | 88 s (8 von 10 verließen sie) | 100 s (die 16, die sie verließen; 9 verließen sie nie) |
| Mittlere Qualität des Fazits zu dieser Website (0-2) | 2 | 0,7 | 0,16 |
| Mittlere Qualität des Fazits zu minimumwage.com vor einem Hinweis (0-4) | 3,3 | 1,3 | 0,52 |
| Mittlere Zeit bis zur Identifizierung der Trägerorganisation der Website | 51 s | 3 min 40 s | 5 min 18 s |
| Brauchten einen Hinweis, um sie zu finden | Fanden sie ohne Hinweis | 6 von 10 | Etwa vier Fünftel |
| Mittlere Zeit bis zur Identifizierung, wer eine Klage finanzierte (Vergara-Aufgabe) | 2 min 8 s | 2 min 1 s | 1 min 42 s |
Quelle: Wineburg und McGrew, Lateral Reading and the Nature of Expertise, Teachers College Record (Vorabversion vom 28. Juli 2018). Zahlen wie veröffentlicht.
Der Unterschied lag in der Methode. Faktenprüfer verschafften sich zuerst Orientierung, lasen lateral (sie verließen eine Website nach einem kurzen Überblick, um zu erfahren, was andere über sie sagen) und übten Klickzurückhaltung (sie überflogen die Suchergebnisse, bevor sie klickten). Bei der Mobbing-Aufgabe hielten 60 Prozent der Studierenden das College, eine Splittergruppe, für verlässlicher als die American Academy of Pediatrics; jeder Faktenprüfer entschied sich für die Academy. Bei der Klage-Aufgabe waren die Faktenprüfer am langsamsten, aber „am wählerischsten, was die Websites betraf, die sie besuchten“. Einer bestätigte einen Namen, indem er einen Nachrichtenartikel mit dem Tastenkürzel Befehl-F durchsuchte, dem Kern von Schritt 3 weiter unten.
Den meisten Menschen fehlt diese Fähigkeit, und sie lässt sich vermitteln. In einer Erhebung unter 3.446 Schülerinnen und Schülern an US-Highschools fanden 96 Prozent nie heraus, dass eine Website, die angeblich über Klimafakten berichtete, Verbindungen zur fossilen Brennstoffindustrie hatte. In Kursen zur politischen Bildung mit jeweils denselben Lehrkräften, die Jessica Brodsky und Kollegen untersuchten (136 Studierende mit Unterricht in lateralem Lesen, 94 in Kontrollgruppen), stieg der Anteil derjenigen, die lateral lasen und bei einer Fake-News-Aufgabe zu einem korrekten Urteil kamen, von 2,2 auf 43,7 Prozent; die Kontrollgruppen endeten bei 1,1 Prozent. Eine bezirksweite Feldstudie von Wineburg und Kollegen mit sechs 50-minütigen Unterrichtsstunden für 271 Schülerinnen und Schüler gegenüber 228 in regulären Klassen ergab, dass die unterrichteten Schülerinnen und Schüler bei der Beurteilung von Glaubwürdigkeit „signifikant zulegten“. Eine Toolbox in Nature Human Behaviour aus dem Jahr 2024, die auf 81 wissenschaftlichen Arbeiten beruht, führt laterales Lesen unter neun Hauptarten von Interventionen gegen Fehlinformationen auf.
Für die Arbeit mit KI ist die Übertragung direkt: Eine KI-Antwort ist eine unbekannte Website ohne Über-uns-Seite. Sie sorgfältiger zu lesen, ist vertikales Lesen; sie zu prüfen, heißt, sie zu verlassen.
Warum fragen Sie das Modell nicht einfach: „Bist du sicher?“
Weil ein Modell ohne Informationen von außerhalb des Gesprächs wenig hat, woran es sich korrigieren könnte. Jie Huang und Kollegen von Google DeepMind und der University of Illinois testeten „intrinsische“ Selbstkorrektur, bei der das Modell seine eigene Antwort ohne externes Feedback überprüft (ICLR 2024).
Genauigkeit vor und nach intrinsischer Selbstkorrektur (%)
| Modell | Benchmark | Standard-Prompting | Nach zwei Runden Selbstkorrektur | Veränderung (Punkte) |
|---|---|---|---|---|
| GPT-3.5 | GSM8K (Mathematik) | 75,9 | 74,7 | -1,2* |
| GPT-3.5 | CommonSenseQA | 75,8 | 41,8 | -34,0* |
| GPT-4 | GSM8K (Mathematik) | 95,5 | 89,0 | -6,5* |
| GPT-4 | CommonSenseQA | 82,0 | 80,0 | -2,0* |
Quelle: Huang et al., Large Language Models Cannot Self-Correct Reasoning Yet, ICLR 2024, Tabelle 3 (Zeilen GSM8K und CommonSenseQA). Zahlen wie veröffentlicht; * Veränderung von CEOtudent berechnet.
Verbesserungen traten nur auf, wenn dem Korrekturschritt mitgeteilt wurde, ob die Antwort richtig war (GPT-3.5 stieg bei GSM8K mit diesen „Orakel“-Labels von 75,9 auf 84,3), eine Information, die Ihnen in der Praxis fehlt. Die Erklärung der Autoren ist unverblümt: Modelle „können die Richtigkeit ihres Schlussfolgerns nicht angemessen beurteilen“. Zum gesonderten Befund, dass ein schlichtes „Bist du sicher?“ eine richtige Antwort oft kippen lässt, siehe den Leitfaden zu Warnsignalen.
Strukturierte Verifikation schneidet besser ab. Bei Chain-of-Verification (Shehzaad Dhuliawala und Kollegen bei Meta AI, Findings of ACL 2024) entwirft das Modell eine Antwort, plant Prüffragen, beantwortet sie getrennt und überarbeitet dann den Entwurf. Bei Wikidata-Listenfragen hat sich die Präzision mehr als verdoppelt, von 0,17 auf 0,36; bei Biografien stieg der FactScore um 28 Prozent, von 55,9 auf 71,4. Zwei Details sind auch für Menschen wichtig. Prüffragen zu beantworten, ohne den Entwurf vor Augen zu haben, schnitt besser ab, als sie neben dem Entwurf zu beantworten (FactScore 63,7 gegenüber 60,8), da ein Prüfer, der den Entwurf sieht, dessen Fehler wiederholen kann. Und in der faktorisierten Variante schnitten Ja/Nein-Prüfungen schlechter ab als offene Fragen; in den Beispielen der Autoren „neigt ChatGPT dazu, Fakten im Ja/Nein-Frageformat zuzustimmen, ob sie richtig oder falsch sind“.
Das Protokoll unten übernimmt alle drei Lehren: gegen etwas außerhalb des Entwurfs prüfen, offene Fragen stellen statt „Stimmt es, dass …?“, und sie beantworten, ohne dass der Entwurf Sie lenkt.
Das Verifikationsprotokoll in 5 Schritten
Redaktionelles CEOtudent-Framework: das Verifikationsprotokoll in 5 Schritten
| Schritt | Was zu tun ist | Die Frage, die Sie stellen | Evidenz, auf der er beruht | Stoppregel |
|---|---|---|---|---|
| 1. Zerlegen | Zerlegen Sie die Ausgabe in einzelne, überprüfbare Behauptungen und kennzeichnen Sie jede nach Typ. Markieren Sie Meinung und Rahmung gesondert. | „Was genau wird hier behauptet, und könnte dieser eine Satz für sich allein falsch sein?“ | Zitationsstudien bewerten Aussage für Aussage; bei Chain-of-Verification wurden kurze, getrennte Fragen genauer beantwortet als die ursprüngliche Anfrage | Jeder Satz steht entweder auf der Behauptungsliste oder ist als Rahmung ohne Faktengehalt markiert |
| 2. Einstufen | Markieren Sie die Tragweite jeder Behauptung und wählen Sie eine Prüftiefe. Kennzeichnen Sie Behauptungen, die eine Entscheidung ändern würden, wenn sie falsch wären. | „Wenn das falsch ist, wer ist betroffen, und lässt es sich rückgängig machen?“ | Die Stützungsraten reichen je nach System von 2,5 bis 87,5 Prozent der Aussagen (Tabelle oben), daher ist kein pauschales Vertrauensniveau sicher | Behauptungen der Stufe 1 dürfen unverfolgt bleiben, wenn sie als ungeprüft gekennzeichnet sind; jede kritische Behauptung geht in Schritt 3 |
| 3. Zurückverfolgen | Öffnen Sie die zitierte (oder primäre) Quelle. Durchsuchen Sie sie mit Strg+F oder Befehl-F nach dem Schlüsselbegriff oder der Zahl. Kopieren Sie den stützenden Satz. | „In welchem Satz, auf welcher Seite sagt die Quelle das?“ | Nur 51,5 Prozent der Aussagen vollständig gestützt und 74,5 Prozent der Quellenangaben stützen ihre Aussage (Liu et al.); Faktenprüfer finden den genauen Text (Wineburg und McGrew) | Gestützt nur, wenn Sie den Satz einfügen können. Teilweise: Grenzen Sie die Behauptung darauf ein. Nichts nach zwei gezielten Suchen: ungestützt, nicht verwenden |
| 4. Lateral lesen | Verlassen Sie die Quelle. Finden Sie heraus, wer dahintersteht und ob eine unabhängige Quelle oder das Primärdokument dasselbe sagt. | „Wer hat das veröffentlicht, was sagen andere über diese Stelle, und stimmt eine unabhängige Quelle zu?“ | Faktenprüfer übertrafen Historiker und Studierende, weil sie Websites früh verließen; die Fähigkeit ist trainierbar (Brodsky et al.; Wineburg et al.) | Zwei unabhängige Quellen stimmen überein, oder Sie haben das Primärdokument selbst vor sich (Gesetzestext, Pflichtmeldung, Datensatz, Originalarbeit) |
| 5. Nachrechnen und protokollieren | Rechnen Sie jede Berechnung mit den Ausgangswerten der Quelle nach; prüfen Sie Jahr, Einheit, Nenner und Ausgabe. Halten Sie das Urteil im Logbuch fest. | „Hält jede Zahl dem Nachrechnen stand, und könnte jemand anderes meine Prüfung anhand des Logbuchs wiederholen?“ | Selbstüberprüfung ohne Informationen von außen senkte die Genauigkeit (Huang et al.); unabhängige Verifikation erhöhte sie (Dhuliawala et al.) | Jede Behauptung hat ein festgehaltenes Urteil: behalten, eingrenzen, streichen oder eskalieren |
Ein praktischer Hinweis: Teilen Sie in Schritt 1 zusammengesetzte Sätze auf. „Der Umsatz stieg nach dem neuen Gesetz stark“ enthält drei Behauptungen: dass der Umsatz stieg, um wie viel, und warum.
Wie gründlich sollten Sie prüfen?
Nicht jede Ausgabe verdient alle fünf Schritte; die Einstufung nach Tragweite bestimmt die Tiefe. Sie ergänzt die Zeitbudget-Stufen in der Prüfsteuer und das Kontrollpunkt-Design in menschliche Aufsicht by Design.
Redaktionelles CEOtudent-Framework: Einstufung nach Tragweite
| Stufe | Typische Ausgaben | Auszuführende Schritte | Wer prüft |
|---|---|---|---|
| 1. Privat und umkehrbar | Notizen für sich selbst, Brainstormings, erste Entwürfe, Ausgangspunkte für Recherchen | Schritte 1-2 für die gesamte Ausgabe; Schritte 3 und 5 für jede Zahl, jeden Namen und jedes Zitat, das Sie weiterverwenden | Sie |
| 2. Geteilt oder entscheidungsrelevant | Interne Memos, Analysen, die eine Teamentscheidung stützen, Code, der nach einem Review gemergt wird | Alle fünf Schritte für jede kritische Behauptung; Schritt 4 für jede Quelle, die Sie noch nicht kennen | Sie, mit beigefügtem Logbuch |
| 3. Unter Ihrem Namen, unumkehrbar oder reguliert | Kundenlieferungen, veröffentlichte Artikel, rechtliche, medizinische, finanzielle oder sicherheitsrelevante Inhalte | Alle fünf Schritte für jede Tatsachenbehauptung; zwei unabhängige Quellen oder das Primärdokument für jede kritische Behauptung | Sie, plus ein zweiter Leser, der eine Stichprobe des Logbuchs erneut prüft |
Steigen Sie im Zweifel eine Stufe höher. Eine Stufe tiefer zu gehen, braucht einen Grund, den Sie verteidigen könnten, falls sich die Ausgabe als falsch erweist.
Welche Prüfung passt zu welcher Behauptung?
Verschiedene Behauptungen scheitern auf verschiedene Weise, daher unterscheidet sich auch die schnellste Primärprüfung.
Redaktionelles CEOtudent-Framework: Zuordnungsmatrix nach Behauptungstyp
| Behauptungstyp | Schnellste Primärprüfung | Typisches Fehlermuster |
|---|---|---|
| Zahl oder Statistik | Die Tabelle oder der Datensatz des ursprünglichen Herausgebers; Jahr, Ausgabe, Einheit und Nenner abgleichen | Echte Zahl aus dem falschen Jahr oder mit falscher Basis; ein abgeleiteter Wert, der als veröffentlicht dargestellt wird |
| Direktes Zitat | Die genaue Formulierung im Originaltext oder Transkript suchen; Sprecher und Kontext prüfen | Paraphrase, die als Zitat dargestellt wird; richtige Worte, falscher Sprecher oder fehlender Kontext |
| Quellenangabe oder Literaturverweis | Den genauen Titel oder die DOI auf der Website des Verlags nachschlagen, dann Schritt 3 darauf anwenden | Literaturverweis, den es nicht gibt; echter Verweis, der nicht sagt, wofür er zitiert wird |
| Datum oder Ereignis | Das datierte Primärdokument: offizielle Ankündigung, Pflichtmeldung, Veröffentlichungsseite | Um ein Jahr oder eine Version daneben; zwei Ereignisse zu einem verschmolzen |
| Gesetz oder Verordnung | Der aktuelle konsolidierte Text im amtlichen Register, mit Änderungsdaten | Überholte Bestimmung oder Frist, die als aktuell zitiert wird |
| Verhalten von Code | Auf einem Test mit bekannter Lösung ausführen; die Dokumentation der installierten Version lesen | Code, der läuft, aber das Falsche tut; eine Funktion oder Option, die es nicht gibt |
| Kausale Behauptung | Studiendesign und Effektstärke im Paper selbst | Korrelation als Ursache dargestellt; eine einzelne Studie auf alle verallgemeinert |
| Status „aktuell“ oder „neueste“ | Die eigene Seite des Herausgebers zur neuesten Ausgabe und ihr Datum | Veraltete Ausgabe, die als neueste dargestellt wird; Suchsnippets, die der Live-Seite hinterherhinken |
Der Leitfaden zur Mechanik erklärt, warum beliebige Einzelfakten wie Daten, Titel und Zahlen die Stellen sind, an denen Modelle am häufigsten raten.
Ein durchgerechnetes Beispiel: ein Satz durch fünf Schritte
Der folgende Satz ist eine illustrative Annahme im Stil einer KI-Zusammenfassung, keine Ausgabe eines realen Systems. „Eine Stanford-Studie ergab, dass professionelle Faktenprüfer bei jeder Aufgabe schneller waren als Historiker und Studierende und unzuverlässige Websites viermal schneller verließen.“
- Zerlegen. Drei Behauptungen: (a) Eine Stanford-Studie verglich diese Gruppen; (b) Faktenprüfer waren bei jeder Aufgabe schneller; (c) sie verließen Websites viermal schneller.
- Einstufen. Bestimmt für eine Kundenpräsentation, also Stufe 3.
- Zurückverfolgen. Behauptung (a) hält: Wineburg und McGrew untersuchten 10 Faktenprüfer, 10 Historiker und 25 Studierende. Behauptung (b) scheitert: Bei der Klage-Aufgabe waren die Studierenden am schnellsten (1 min 42 s gegenüber 2 min 8 s). Behauptung (c) trifft teilweise zu: Bei der Mobbing-Aufgabe verließen die Faktenprüfer die Startseite nach 32 Sekunden, die Historiker nach 88.
- Lateral lesen. Das Paper wurde von Teachers College Record angenommen, einer wissenschaftlichen Fachzeitschrift; spätere Studien im Unterricht stützen die Methode, nicht die Behauptung zur Geschwindigkeit.
- Nachrechnen und protokollieren. 88 / 32 = 2,75, was das Paper „fast dreimal“ nennt. Bei der Mindestlohn-Aufgabe sind 3 min 40 s gegenüber 51 s das 4,3-Fache, was das „fast viermal“ des Papers eher untertreibt. Urteil: eingrenzen. Verwendbare Fassung: „In einer Stanford-Studie verließen Faktenprüfer eine unbekannte Website im Mittel nach 32 Sekunden, gegenüber 88 bei Historikern, waren aber nicht bei jeder Aufgabe am schnellsten.“
Das Prüf-Logbuch: eine Vorlage zum Kopieren
Führen Sie eine Zeile pro geprüfter Behauptung. Das Logbuch macht aus dem Prüfen eine Aufzeichnung, die eine Kollegin oder ein Kollege nachprüfen kann, und speist die Fehleranalyse in Aus KI-Fehlern lernen.
| # | Behauptung (ein Satz) | Typ | Stufe | Geöffnete Quelle (Titel, Datum, Seite) | Genauer stützender Satz gefunden? | Unabhängige zweite Quelle | Zahl nachgerechnet | Urteil | Geprüft von, Datum |
|---|---|---|---|---|---|---|---|---|---|
| 1 | Faktenprüfer verließen Websites viermal schneller | Zahl | 3 | Wineburg und McGrew, Vorabversion 2018, Mobbing- und Mindestlohn-Aufgabe | Teilweise: 32 s gegenüber 88 s; 51 s gegenüber 3 min 40 s | Nicht nötig: Originalarbeit | Ja: 2,75 und 4,3 | Eingrenzen | Initialen, Datum |
Einseitige Checkliste, bevor etwas Ihre Hände verlässt
- Jeder Tatsachensatz steht auf der Behauptungsliste oder ist als Rahmung markiert.
- Jede kritische Behauptung hat einen eingefügten stützenden Satz aus der Quelle selbst.
- Jeder Literaturverweis wurde auf der Website des Verlags gefunden, nicht nur in der KI-Antwort.
- Jede unbekannte Quelle wurde lateral gelesen: wer sie betreibt, wer sie finanziert.
- Jede Zahl wurde aus den Ausgangswerten der Quelle nachgerechnet, mit geprüftem Jahr und geprüfter Einheit.
- Keine Behauptung stützt sich nur auf die erneute Selbstprüfung des Modells.
- Arbeiten der Stufe 3 tragen auf einer Stichprobe der Zeilen die Initialen eines zweiten Lesers.
Was bedeutet das für CEO und Student?
Der CEO-Schritt: Halten Sie den Standard schriftlich fest. Alles, was unter Ihrem Namen erscheint, braucht einen einseitigen Prüfstandard: welche Behauptungstypen zurückverfolgt werden müssen (mindestens Zahlen, Zitate, Literaturverweise sowie rechtliche oder medizinische Aussagen in externen Arbeiten), wer sie zurückverfolgt, auf welcher Stufe und wo das Logbuch liegt. Ergänzen Sie eine Regel: kein Quellensatz, keine Behauptung. Die Vertrauenskalibrierung entscheidet, wann Sie sich auf eine Empfehlung verlassen; der Standard entscheidet, was zuerst belegt werden muss.
Der Student-Schritt: Trainieren Sie die beiden Fähigkeiten, auf denen das Protokoll beruht. Das Zerlegen von Behauptungen ist eine Übung: Teilen Sie einen beliebigen KI-Absatz in einzelne Behauptungen auf, bis sich keine weiter zerlegen lässt. Laterales Lesen ist eine Gewohnheit: Bevor Sie eine Quelle genau lesen, finden Sie heraus, wer dahintersteht. Notieren Sie vor dem Prüfen Ihre Zuversicht bei jeder Behauptung und vergleichen Sie sie mit dem Urteil, wie es die Konfidenzkalibrierung beschreibt. Mit der Zeit zeigt das Logbuch, welche Behauptungstypen Sie am häufigsten täuschen, der praktische Kern der Unterscheidungslücke.
Was das nicht bedeutet
Es bedeutet nicht, dass KI-Antworten meistens falsch sind: Eine fehlende Quelle ist ein anderes Problem als eine falsche Behauptung. Es bedeutet nicht, dass die Systeme in der Tabelle heute in dieser Reihenfolge rangieren; sie wurden von 2023 bis 2025 getestet. Die Evidenz zum lateralen Lesen stammt vor allem von Lernenden und Websites, nicht von KI-Ausgaben, daher ist ihre Übertragung auf die Arbeit mit KI eine Schlussfolgerung. Und Verifikation macht eine Ausgabe nicht wahr; sie sorgt dafür, dass Ihre Zuversicht zu der Evidenz passt, die Sie in der Hand haben.
Häufig gestellte Fragen
Wie erkennen Sie, ob eine KI-Antwort wahr ist?
Nur indem Sie ihre kritischen Behauptungen zu einer Primärquelle zurückverfolgen und den Satz finden, der jede einzelne stützt. Sprachliche Gewandtheit, Selbstsicherheit und Fußnoten sind keine Evidenz; in einer Prüfung waren die am hilfreichsten wirkenden Antworten oft die am wenigsten gestützten.
Kann die KI ihre eigene Antwort prüfen?
Nutzen Sie sie, um Behauptungen aufzulisten und Prüffragen zu entwerfen, nicht als abschließende Prüfung. Ohne Informationen von außen senkte die Selbstkorrektur in den Tests von Huang et al. die Genauigkeit; strukturiertes, unabhängiges Nachfragen verbesserte sie.
Sind KI-Antworten mit Quellenangaben verlässlicher?
Quellenangaben machen das Prüfen möglich, nicht überflüssig. In den drei Studien oben reichte der Anteil der Aussagen ohne Stütze je nach System von 12,5 bis 97,5 Prozent.
Was ist laterales Lesen?
Eine Quelle zu verlassen, um zu erfahren, was unabhängige Quellen über sie sagen, statt sie anhand ihrer eigenen Seiten zu beurteilen. In der Stanford-Studie verließen Faktenprüfer eine unbekannte Seite im Durchschnitt nach etwa einer halben Minute; Studien im Unterricht zeigen, dass es sich in einer Handvoll Unterrichtsstunden vermitteln lässt.
Ist ein zweites KI-Modell eine unabhängige Prüfung?
Für sich genommen nicht. Es kann auf Unstimmigkeiten hinweisen, aber die Studien oben zeigen, dass selbst Modelle mit Websuche oft Quellen angeben, die ihre Aussagen nicht stützen. Die unabhängige Prüfung ist die Primärquelle.
Quellen
- Liu, N. F., Zhang, T. und Liang, P. (2023). Evaluating Verifiability in Generative Search Engines. Findings of EMNLP 2023. arXiv 2304.09848, Version 2.
- Wu, K., Wu, E., Zou, J. und Kollegen (2025). An automated framework for assessing how well LLMs cite relevant medical references. Nature Communications 16, 3615, sowie die zugehörigen Supplementary Information.
- Narayanan Venkit, P., Laban, P., Zhou, Y. und Kollegen (2025). DeepTRACE: Auditing Deep Research AI Systems for Tracking Reliability Across Citations and Evidence. arXiv 2509.04499, Version 1 (Preprint von Autoren bei Salesforce AI Research und Microsoft Research; nicht begutachtet).
- Gao, T., Yen, H., Yu, J. und Chen, D. (2023). Enabling Large Language Models to Generate Text with Citations. EMNLP 2023. arXiv 2305.14627.
- Huang, J., Chen, X., Mishra, S. und Kollegen (2024). Large Language Models Cannot Self-Correct Reasoning Yet. ICLR 2024. arXiv 2310.01798, Version 2.
- Dhuliawala, S., Komeili, M., Xu, J. und Kollegen (2024). Chain-of-Verification Reduces Hallucination in Large Language Models. Findings of ACL 2024, Seiten 3563-3578. arXiv 2309.11495.
- Wineburg, S. und McGrew, S. Lateral Reading and the Nature of Expertise: Reading Less and Learning More When Evaluating Digital Information. Teachers College Record. Vorabversion vom 28. Juli 2018, Stanford Digital Repository.
- Breakstone, J., Smith, M., Wineburg, S. und Kollegen (2021). Students’ Civic Online Reasoning: A National Portrait. Educational Researcher. Vorabversion, Stanford Digital Repository.
- Brodsky, J. E., Brooks, P. J., Scimeca, D. und Kollegen (2021). Improving college students’ fact-checking strategies through lateral reading instruction in a general education civics course. Cognitive Research: Principles and Implications 6, 23.
- Wineburg, S., Breakstone, J., McGrew, S. und Kollegen (2022). Lateral Reading on the Open Internet: A District-Wide Field Study in High School Government Classes. Journal of Educational Psychology 114, 893-909 (nur Abstract, ERIC-Eintrag EJ1372738).
- Panizza, F., Ronzani, P., Martini, C. und Kollegen (2022). Lateral reading and monetary incentives to spot disinformation about science. Scientific Reports 12, 5678.
- Kozyreva, A. und Kollegen (2024). Toolbox of individual-level interventions against online misinformation. Nature Human Behaviour, veröffentlicht am 13. Mai 2024 (nur Abstract).
Hinweis zur Methodik. „Stützt die Quellenangabe die Behauptung?“ ist eine CEOtudent-Analyse der Quellen 1-3; mit Sternchen markierte Zellen, Mediane und Spannen sind aus den veröffentlichten Zahlen berechnet, ebenso die Spalte zur Veränderung in der Tabelle zur Selbstkorrektur. Das Protokoll in 5 Schritten, die Einstufung nach Tragweite, die Zuordnungsmatrix und das Prüf-Logbuch sind redaktionelle CEOtudent-Frameworks; das durchgerechnete Beispiel verwendet einen illustrativen Satz. Bewusst nicht verwendet haben wir die vielfach wiederholten Zahlen des Tow Center for Digital Journalism von 2025 zu Quellenangaben in der KI-Suche, weil wir diesen Bericht nicht geöffnet und geprüft haben. Zahlen aus der Newsroom-Prüfung von EBU und BBC, zu Halluzinationen vor Gericht, zu erfundenen Literaturverweisen sowie zu FActScore, SelfCheckGPT und semantischer Entropie finden sich in den verlinkten Beiträgen des Clusters. Dieser Artikel ist eine allgemeine Information und keine Rechts-, Medizin- oder Finanzberatung.
Dieser Inhalt wurde nach eingehender Recherche mit Unterstützung von KI zusammengestellt und vom CEOtudent-Redaktionsteam geschrieben und für die Veröffentlichung aufbereitet.
