Kurzfassung. Ein Sprachmodell, das eine Quelle erfindet, funktioniert nicht falsch. Es tut genau das, wofür es bewertet wurde. Im September 2025 veröffentlichten vier Forschende, drei bei OpenAI und einer an der Georgia Tech, ein Argument dafür, dass Halluzination überlebt, weil Modelle so benotet werden: Auf einer binären Richtig-oder-falsch-Skala schlägt ein ratendes Modell immer ein identisches Modell, das Unsicherheit eingesteht. Sie untersuchten zehn führende Evaluationen und fanden, dass neun binär benoten und keine einzige volle Punkte für ein kalibriertes “Ich weiß es nicht” vergibt. Wir haben OpenAIs eigene SimpleQA-Ergebnisse genommen und eine Spalte berechnet, die das Papier nicht ausweist: die Bluffquote, also den Anteil der Fehlschläge, bei denen das Modell falsch antwortete statt abzuwinken. Sie reicht von 20,5% bis 99,0%, eine Spanne von 4,8, und ist von der Genauigkeit weitgehend unabhängig. Anschließend prüften wir die am 11. Mai 2026 aktualisierte Halluzinations-Bestenliste von Vectara darauf, was geschieht, wenn die Fakten im Prompt geliefert werden. Die Erdung hilft erheblich, brachte aber ein Ergebnis, das wir nicht erwartet hatten: In vier getrennten Vergleichen innerhalb derselben Familie erhöhte mehr Denkaufwand die Halluzinationsrate, und die Zusammenfassungen wurden ausnahmslos länger. Es folgen: die fünf belegten Mechanismen, in welchem Regime Ihre Aufgabe liegt, und für jeden ein Erkennungstest.
Dies ist die mechanische Ebene unter unseren Arbeiten zum Beurteilen von KI-Ausgaben und zur Vertrauenskalibrierung. Jene Texte sagen, wann man vertrauen sollte. Dieser sagt, warum die Fehler dort auftreten, wo sie auftreten.
Die Antwort in einem Satz
Modelle halluzinieren, weil Raten besser bewertet wird als Abwinken, und alles Übrige ist ein Detail darüber, wann.
Diese Rahmung stammt aus “Why Language Models Hallucinate”, am 4. September 2025 auf arXiv eingestellt von Adam Tauman Kalai und Ofir Nachum von OpenAI, Santosh S. Vempala von der Georgia Tech und Edwin Zhang von OpenAI. Ihre Analogie ist ein Prüfling. Bei einer Frage, die Sie nicht beantworten können, bringt eine Leerstelle null Punkte, eine Vermutung null oder einen. Unter dieser Regel ist Raten stets die rationale Strategie, und zwar spezifisches Raten, denn “30. September” und “irgendwann im Herbst” werden gleich bewertet, wenn beide falsch sind, aber nur das Erste kann richtig sein.
Sprachmodelle, so das Argument, leben dauerhaft in dieser Prüfung. Sie werden gegen Benchmarks optimiert, die standardisierte Tests nachbilden, und befinden sich deshalb ständig im Prüfungsmodus.
Der konkreteste Beitrag des Papiers ist eine Bestandsaufnahme dessen, was die Benchmarks tatsächlich tun. Die Autoren untersuchten zehn verbreitete Evaluationen und ordneten jede danach ein, ob ihre Primärmetrik strikte Richtig-falsch-Genauigkeit ist und ob ein Abwinken überhaupt Punkte erhalten kann.
| Benchmark | Bewertungsmethode | Binäre Benotung | Punkte für “Ich weiß es nicht” |
|---|---|---|---|
| GPQA | Multiple-Choice-Genauigkeit | Ja | Keine |
| MMLU-Pro | Multiple-Choice-Genauigkeit | Ja | Keine |
| IFEval | Programmatische Anweisungsprüfung | Ja | Keine |
| Omni-MATH | Äquivalenzbewertung | Ja | Keine |
| WildBench | Durch Sprachmodell bewertete Rubrik | Nein | Teilweise |
| BBH | Multiple Choice / exakter Abgleich | Ja | Keine |
| MATH (Stufe-5-Teilmenge) | Äquivalenzbewertung | Ja | Keine |
| MuSR | Multiple-Choice-Genauigkeit | Ja | Keine |
| SWE-bench | Patch besteht Unit-Tests | Ja | Keine |
| HLE | Multiple Choice / Äquivalenzbewertung | Ja | Keine |
Quelle: Kalai, Nachum, Vempala und Zhang, “Why Language Models Hallucinate”, arXiv-Preprint 2509.04664v1, September 2025, Tabelle 2. Unsere Auszählung ihrer Zeilen: 9 von 10 benoten binär, 9 von 10 geben keine Punkte für Abwinken, 0 von 10 geben volle Punkte für ein kalibriertes Abwinken. Die Rubrik von WildBench bietet nur Teilpunkte, und die Autoren merken an, dass die Skala von 1 bis 10 ein Abwinken weiterhin schlechter bewerten kann als eine selbstbewusste, aber halluzinierte Antwort.
Diese letzte Zeile enthält das ganze Problem im Kleinen. Selbst der eine Benchmark, der nicht binär benotet, kann eine selbstbewusste Unwahrheit über ein ehrliches “Ich weiß es nicht” stellen.
Der vorgeschlagene Ausweg ist kein neuer Halluzinations-Benchmark, sondern eine Änderung der Bewertung jener Benchmarks, die die Bestenlisten ohnehin dominieren: Die Anweisung soll eine Konfidenzschwelle nennen. Antworte nur, wenn du zu mehr als t sicher bist, denn Fehler werden mit t/(1-t) Punkten bestraft, richtige Antworten erhalten 1 Punkt, und “Ich weiß es nicht” erhält 0.
Eine Anmerkung zu dieser Formel für alle, die nachrechnen. Der Preprint nennt als natürliche Werte t = 0,5 (Strafe 1), t = 0,75 (Strafe 2) und t = 0,9 (Strafe 9). Wendet man die im Papier selbst angegebene Formel t/(1-t) an, ergibt sich 1 für t = 0,5 und 9 für t = 0,9, beides stimmig, aber 3 für t = 0,75, nicht 2. Der Klammerwert für den mittleren Fall widerspricht der Formel, die er begleitet. Das ist ein kleiner Ausrutscher in einem sonst sorgfältigen Preprint und ändert nichts am Argument. Wir weisen darauf hin, weil es genau die Art abgeleiteter Zahl ist, deren Nachrechnen dieser Beitrag empfiehlt, und die Lektion endet nicht bei Papieren aus Spitzenlaboren. Die Beobachtung bezieht sich auf Version 1 des arXiv-Preprints vom 4. September 2025; später veröffentlichte Fassungen können abweichen.
Die Bluffquote: eine eigene Spalte
Hier wird die Theorie messbar.
OpenAI veröffentlichte im November 2024 SimpleQA, einen Benchmark aus 4.326 kurzen Faktenfragen, die für GPT-4o schwierig sein sollten und jeweils genau eine unstrittige Antwort haben. Die Bewertung kennt drei statt zwei Ausgänge: richtig, falsch und nicht versucht, wobei die letzte Kategorie Antworten umfasst, die die Referenzantwort nicht vollständig geben, einschließlich eines klaren “Ich weiß es nicht”.
Diese dritte Kategorie macht den Datensatz hier nützlich, denn sie trennt zwei Dinge, die binäre Benchmarks verschmelzen: etwas nicht zu wissen und so zu tun, als wüsste man es.
Die veröffentlichte Tabelle weist für acht Modelle richtig, nicht versucht und falsch aus. Sie weist nicht das Verhältnis aus, das für Berufstätige am meisten zählt. Wenn ein Modell Sie im Stich lässt, wie sieht dieses Scheitern aus? Sagt es Ihnen, dass es nichts weiß, oder reicht es Ihnen mit unbewegter Miene etwas Falsches?
Das ist eine einzige Division: falsch geteilt durch die Summe aus falsch und nicht versucht. Wir haben sie für jede Zeile berechnet.
| Modell | Richtig (%) | Nicht versucht (%) | Falsch (%) | Bluffquote (%) |
|---|---|---|---|---|
| GPT-4o-mini | 8,6 | 0,9 | 90,5 | 99,0 |
| GPT-4o | 38,2 | 1,0 | 60,8 | 98,4 |
| OpenAI o1-preview | 42,7 | 9,2 | 48,1 | 83,9 |
| OpenAI o1-mini | 8,1 | 28,5 | 63,4 | 69,0 |
| Claude-3.5-sonnet (2024-06-20) | 28,9 | 35,0 | 36,1 | 50,8 |
| Claude-3-opus (2024-02-29) | 23,5 | 39,6 | 36,9 | 48,2 |
| Claude-3-haiku (2024-03-07) | 5,1 | 75,3 | 19,6 | 20,7 |
| Claude-3-sonnet (2024-02-29) | 5,7 | 75,0 | 19,3 | 20,5 |
CEOtudent-Redaktionsrahmen. Die Spalten richtig, nicht versucht und falsch sind wörtlich übernommen aus OpenAI, “Measuring short-form factuality in large language models”, arXiv-Preprint 2411.04368, Tabelle 3. Die Bluffquote ist unsere Berechnung: falsch / (falsch + nicht versucht), also der Anteil der nicht korrekten Antworten, bei denen das Modell eine falsche Antwort behauptete statt abzuwinken. Jede Zeile der Quelltabelle summiert sich auf 100,0, was wir geprüft haben. Modelle und Daten entsprechen dem Stand Ende 2024, heutige Systeme weichen ab; die Spalte zeigt die Spannweite im Abwinkverhalten, nicht ein aktuelles Anbieterranking.
Zwei Lesarten, und die zweite ist die wichtigere.
Die naheliegende Lesart ist die Spannweite. GPT-4o-mini sagt Ihnen, wenn es etwas nicht weiß, in 99 von 100 Fällen trotzdem etwas. Claude-3-sonnet lehnt in derselben Lage in vier von fünf Fällen ab. Das ist ein Unterschied von 4,8 darin, wie sich Scheitern zeigt.
Die wichtigere Lesart: Die Bluffquote ist von der Genauigkeit weitgehend entkoppelt. GPT-4o-mini beantwortete 8,6% der Fragen richtig, Claude-3-haiku 5,1%. Ein Unterschied von 3,5 Prozentpunkten in der Kompetenz und 78 Punkte Unterschied im Verhalten, wenn sie überfordert sind. Diese beiden Modelle wissen fast gleich wenig. Eines sagt es, das andere nicht.
Genau das sagt das Halluzinationspapier voraus. Abwinkverhalten ist kein Nebenprodukt von Leistungsfähigkeit, sondern eine eigene, antrainierte Haltung, geformt davon, was Training und Evaluation belohnt haben. Und weil neun von zehn führenden Benchmarks für Abwinken nichts zahlen, zeigt das Anreizgefälle in eine Richtung.
Die praktische Folge: Vertrauenswürdigkeit lässt sich nicht aus Benchmark-Werten ableiten. Das Modell an der Spitze einer Bestenliste kann dasjenige sein, das Ihnen am ehesten eine erfundene Quelle liefert, denn Listenplatz und Bluffbereitschaft entstehen aus demselben Druck.
Das zweite Regime: was passiert, wenn Sie die Fakten liefern
Alles bisher Gesagte betrifft Abruf aus dem Gedächtnis, bei dem das Modell allein aus Parametern antwortet. Die meiste berufliche Arbeit ist nicht so. Sie fügen ein Dokument ein, hängen einen Bericht an, zeigen auf eine Codebasis. Behebt das den Fehler?
Vectara pflegt eine öffentliche Halluzinations-Bestenliste auf Basis seines Hallucination Evaluation Model. Die Aufgabe ist bewusst eng: Jedes Modell erhält ein Dokument und soll es ausschließlich mit darin enthaltenen Fakten zusammenfassen, danach wird die Zusammenfassung auf Aussagen geprüft, die die Quelle nicht stützt. Der Datensatz umfasst mehr als 7.700 Artikel aus Nachrichten, Technik, Wissenschaft, Medizin, Recht, Sport, Wirtschaft und Bildung, zwischen 50 und 24.000 Wörtern, wird zur Vermeidung von Überanpassung nicht veröffentlicht, und die Modelle werden bei Temperatur 0 aufgerufen. Die nachfolgende Fassung wurde zuletzt am 11. Mai 2026 aktualisiert und umfasst 106 Modelle.
Über die gesamte Liste reichen die Halluzinationsraten bei vorgelegter Quelle von 1,8% im besten bis 24,2% im schlechtesten Fall.
Vergleichen Sie das mit den Werten ohne Quelle weiter oben, wo GPT-4o 60,8% der SimpleQA-Fragen falsch beantwortete. Das sind andere Aufgaben, andere Modelle und andere Zeitpunkte, es ist also kein direkter Modellvergleich und sollte auch nicht so gelesen werden. Es ist ein Vergleich zweier Regime, und der Abstand dazwischen beträgt rund eine Größenordnung. Die Tatsache ins Kontextfenster zu legen, ist der größte verfügbare Einzeleingriff, und er steht bei jeder Aufgabe kostenlos und sofort zur Verfügung.
Auf null bringt es die Rate aber nicht, und die Form des verbleibenden Fehlers ist der interessante Teil.
Der unerwartete Befund: mehr Denkaufwand verschlechtert die Halluzination bei vorgelegten Quellen
Beim Lesen der Bestenliste fiel uns auf, dass mehrere Modellfamilien mehrfach mit unterschiedlichen Denkeinstellungen erscheinen. Das ergibt natürliche kontrollierte Vergleiche: dieselbe Familie, derselbe Benchmark-Durchlauf, dasselbe Datum, eine veränderte Variable.
Es gibt fünf solcher Paare. Sie zeigen Folgendes.
| Familie | Einstellung geringer Aufwand | Rate | Wörter | Einstellung hoher Aufwand | Rate | Wörter | Ratenänderung | Längenänderung |
|---|---|---|---|---|---|---|---|---|
| GPT-5.2 | niedrig | 8,4% | 126,5 | hoch | 10,8% | 186,3 | +2,4 Punkte | +59,8 Wörter |
| GPT-5.1 | niedrig | 10,9% | 165,5 | hoch | 12,1% | 254,4 | +1,2 Punkte | +88,9 Wörter |
| Grok-4.1-fast | ohne Reasoning | 17,8% | 87,5 | mit Reasoning | 19,2% | 99,5 | +1,4 Punkte | +12,0 Wörter |
| Grok-4-fast | ohne Reasoning | 19,7% | 141,9 | mit Reasoning | 20,2% | 173,9 | +0,5 Punkte | +32,0 Wörter |
| o4-mini | niedrig | 18,6% | 130,9 | hoch | 18,6% | 127,7 | 0,0 Punkte | -3,2 Wörter |
CEOtudent-Redaktionsrahmen. Alle Raten und durchschnittlichen Zusammenfassungslängen sind wörtlich der Halluzinations-Bestenliste von Vectara im Stand vom 11. Mai 2026 entnommen; die Paarbildung, die Änderungsspalten und die Längenlesart stammen von uns. In vier von fünf Paaren innerhalb einer Familie steigen Halluzinationsrate und Zusammenfassungslänge gemeinsam mit dem Denkaufwand. Das fünfte, o4-mini, zeigt in beidem keine nennenswerte Bewegung, was mit demselben Zusammenhang vereinbar ist und keine Ausnahme davon darstellt.
Vier von vier Paaren, die sich bewegten, bewegten sich gleichgerichtet und in beiden Variablen zugleich. Das fünfte Paar bewegte sich in keiner. In diesen Daten gibt es keinen Fall, in dem mehr Denkaufwand eine niedrigere Halluzinationsrate bei vorgelegter Quelle erzeugte.
Die Längenspalte legt das Warum nahe, und der Mechanismus ist unspektakulär. Höherer Denkaufwand erzeugt längere Ausgaben. GPT-5.1 schreibt bei hohem Aufwand 254 Wörter statt 166 bei niedriger Einstellung, ein Zuwachs von 54%. Jeder zusätzliche Satz in einer Zusammenfassung ist eine weitere Gelegenheit, etwas zu behaupten, was das Quelldokument nicht stützt. Das Modell denkt sich nicht in die Unwahrheit hinein, es schreibt mehr, und ungedeckte Aussagen häufen sich mit dem Umfang.
Dasselbe Muster zeigt sich in diesem einen Durchlauf über die gesamte OpenAI-Familie: gpt-5.4-nano, das kleinste gelistete Modell, liegt bei 3,1%, während o3-pro, ein Reasoning-Flaggschiff, bei 23,3% liegt. Das ist eine Spanne von 7,5 innerhalb einer Anbieterpalette, und sie verläuft entgegen der Modellstärke.
Zwei Einschränkungen, bevor das überinterpretiert wird. Der Benchmark misst eine enge Aufgabe, die getreue Zusammenfassung eines vorgelegten Dokuments, und die Vorteile eines Reasoning-Modells bei Mathematik, Code und mehrstufiger Analyse werden hier schlicht nicht bewertet. Zudem handelt es sich um Einzelmessungen ohne veröffentlichte Konfidenzintervalle, sodass die beiden kleinsten Abstände, 0,5 und 1,2 Punkte, als Richtung und nicht als Beweis zu lesen sind. Das Gewicht trägt die Übereinstimmung über unabhängige Familien hinweg, nicht eine einzelne Zeile.
Die handlungsrelevante Fassung: Bei Extraktion und Zusammenfassung, wo die Aufgabe darin besteht, innerhalb eines Quelldokuments zu bleiben, ist der Griff zum größten Reasoning-Modell nicht automatisch die sichere Wahl und womöglich das Gegenteil. Verlangen Sie kürzere Ausgaben. Das ist derselbe Hebel.
Die fünf Mechanismen und wie sie aussehen
Das Halluzinationspapier zählt die statistischen Faktoren hinter diesen Fehlern auf. Hier sind sie, verknüpft mit dem, was Sie jeweils tun können. Die Mechanismen stammen aus dem Papier; die Erkennungstests und die Expositionsspalte stammen von uns.
| Mechanismus | Ursache | Erscheinungsbild | Erkennungstest | Am stärksten betroffene Aufgaben |
|---|---|---|---|---|
| Willkürliche Fakten | Die Tatsache hat kein verallgemeinerbares Muster und kam im Training selten oder nie vor. Das Papier formalisiert das über eine Singleton-Rate: Kam ein Anteil der Fakten genau einmal vor, sollten Basismodelle mindestens in diesem Anteil halluzinieren | Selbstbewusst, spezifisch, plausibel, falsch. Daten, Namen, Quellenangaben, Zahlen, Seitenzahlen | Stellen Sie dieselbe Frage in drei getrennten Sitzungen. Instabile Antworten bedeuten Raten. Stabile Antworten beweisen keine Richtigkeit, aber Instabilität ist fast ein Beweis für einen Fehler | Quellenangaben, biografische Details, Statistiken, wenig bekannte Entitäten |
| Schlechte Modellpassung | Die Architektur bildet die Aufgabe unabhängig vom Wissen schlecht ab. Das Beispiel im Papier ist das Zählen von Buchstaben | Scheitert an etwas trivial Einfachem und meistert etwas Schwieriges. Zeichenzahlen, Zeichenkettenoperationen, exakte Arithmetik | Geben Sie eine Aufgabe, die Sie in zwei Sekunden von Hand prüfen können. Scheitert es dort, misstrauen Sie der Aufgabenklasse, nicht dem Thema | Zählen, Tokenisieren, exakte Zeichenkettenarbeit, Arithmetik mit langen Zahlen |
| Berechnungshärte | Das Problem ist nicht effizient lösbar. Kein System, wie leistungsfähig auch immer, entkommt Komplexitätsgrenzen | Eine flüssige Antwort auf etwas, das keine effiziente Lösung hat | Fragen Sie, ob eine korrekte Antwort in dieser Größenordnung überhaupt berechenbar ist. Wenn nicht, ist die flüssige Antwort Dekoration | Kryptografische Anfragen, große kombinatorische Optimierung, erschöpfende Suche |
| Verteilungsverschiebung | Der Prompt gleicht nichts aus dem Training. Eingaben außerhalb der Verteilung brechen Klassifikatoren, Modelle bilden keine Ausnahme | Merkwürdige Fehler bei Fangfragen, ungewöhnlichen Formulierungen oder wirklich neuen Situationen | Formulieren Sie konventionell um und fragen Sie erneut. Ändert sich die Antwort, lag es an der ursprünglichen Formulierung | Neuartige Szenarien, bewusst ungewöhnliche Rahmung, sehr aktuelle Ereignisse |
| Garbage in, Garbage out | Der Fehler stand im Trainingskorpus. Das Modell gibt ihn getreu wieder | Wiederholt selbstbewusst einen verbreiteten Irrtum, eine veraltete Zahl oder ein weit zirkulierendes Falschzitat | Prüfen Sie die Primärquelle, nicht ein Suchergebnis. Vielfach wiederholte Zahlen sind die riskanteste Kategorie, gerade weil die Wiederholung sie ins Training gebracht hat | Populäre Statistiken, Alltagswissenschaft, umstrittene Geschichte, überholte Standards |
CEOtudent-Redaktionsrahmen. Die fünf Mechanismen und ihre technische Grundlage stammen aus Kalai, Nachum, Vempala und Zhang, arXiv-Preprint 2509.04664v1, Abschnitte 3.3 und 3.4. Die Erkennungstests, Expositionsbewertungen und die Aufgabenzuordnung sind unsere Synthese und keine Befunde jenes Papiers.
Die fünfte Zeile verdient Nachdruck, denn sie erwischt die Sorgfältigen. Eine Statistik, die in hundert Artikeln wiederholt wird, wird eher von einem Modell reproduziert als eine Statistik, die einmal in der Primärquelle steht, und Wiederholung ist kein Beleg. Wir sind unmittelbar darauf gestoßen: Zahlen, die in der Sekundärberichterstattung allgegenwärtig und in der zugrunde liegenden Studie schlicht nicht vorhanden sind.
Die daraus folgende Regel ist unbequem und richtig. Wenn eine Zahl zählt, öffnen Sie das Primärdokument und finden Sie die Zahl darin. Nicht eine Zusammenfassung des Dokuments. Das Dokument.
Ein praktikables Vorgehen
Fünf Schritte, in der Reihenfolge, die mit dem geringsten Aufwand am meisten fängt.
Klären Sie, in welchem Regime Sie sind. Steht die Antwort im Kontextfenster oder in den Parametern des Modells? Abruf ohne Quelle ist rund eine Größenordnung riskanter. Wenn Sie eine Frage ohne Quelle durch Einfügen des Dokuments in eine geerdete verwandeln können, tun Sie zuerst das. Es ist der wirkungsvollste verfügbare Schritt.
Akzeptieren Sie keine Quellenangabe, die Sie nicht geöffnet haben. Titel, Autoren, Jahre, Zeitschriftennamen und Seitenzahlen sind der klassische Fall willkürlicher Fakten: kein verallgemeinerbares Muster, hohe Plausibilität im erfundenen Zustand. Behandeln Sie jede ungeöffnete Referenz als ungeprüft.
Fragen Sie in einer frischen Sitzung erneut. Billig, schnell und direkt am Mechanismus ansetzend. Ein Modell, das bei einer einmalig vorkommenden Tatsache rät, produziert unterschiedliche Vermutungen. Das Halluzinationspapier beginnt genau damit: nach dem Geburtstag eines Autors gefragt, lieferte ein Spitzenmodell in drei Versuchen drei verschiedene falsche Daten.
Verlangen Sie bei geerdeten Aufgaben kürzere Ausgaben. Die Paare aus der Bestenliste zeigen, dass Länge und ungedeckte Aussagen gemeinsam steigen. Die Länge ist der Hebel, den Sie steuern.
Fragen Sie nach der Konfidenz und erlauben Sie ausdrücklich das Abwinken. Sagen Sie explizit, dass “Ich weiß es nicht” eine akzeptable Antwort ist. Das ist die nutzerseitige Fassung des im Papier vorgeschlagenen Auswegs. Sie werden die Bewertung der Benchmarks nicht ändern, aber die Bewertungsregel innerhalb Ihres eigenen Prompts können Sie ändern.
Was das nicht bedeutet
Es bedeutet nicht, dass die Modelle generell unzuverlässig sind. Geerdete Raten von 2 bis 7% für gute Modelle bei getreuer Zusammenfassung sind eine praktikable Fehlerquote für einen ersten Durchgang, sofern Sie wissen, dass sie nicht null ist, und die entscheidenden Stellen prüfen.
Es bedeutet nicht, dass Halluzination im nächsten Jahr wegentwickelt wird. Das Argument des Papiers ist strukturell: Solange die dominierenden Evaluationen für kalibrierte Unsicherheit nichts zahlen, werden dafür optimierte Modelle weiter raten. Eine Korrektur erfordert eine Änderung der Anzeigetafel, und das ist ein Koordinationsproblem des gesamten Feldes, kein Modellierungsproblem eines einzelnen Labors.
Und es bedeutet nicht, dass Sie alles prüfen sollten, denn das hieße, das Werkzeug nicht zu nutzen. Es bedeutet, dass Sie wissen sollten, welchem der fünf Mechanismen Ihre konkrete Aufgabe ausgesetzt ist, und dort prüfen. Gleichmäßig verteilter Prüfaufwand ist verschwendeter Prüfaufwand.
Die hier beschriebene Kompetenz ist nicht Skepsis, sondern Kalibrierung: zu wissen, wo die Fehler wohnen, damit Sie aufhören können, überall sonst zu suchen. Es ist dieselbe Fähigkeit wie in KI-Kompetenz gegenüber KI-Flüssigkeit, angewandt auf die Fehleroberfläche statt auf die Fähigkeitsoberfläche.
Häufig gestellte Fragen
Halluzinieren neuere Modelle weniger?
Nicht verlässlich und nicht bei jeder Aufgabe. In der im Mai 2026 aktualisierten Bestenliste zur geerdeten Zusammenfassung erreichte das kleinste gelistete Modell der OpenAI-Familie 3,1%, ein Reasoning-Flaggschiff derselben Familie 23,3%. Leistungsfähigkeit und Quellentreue sind verschiedene Achsen und können bei dieser Aufgabe in entgegengesetzte Richtungen zeigen.
Löst retrieval-augmentierte Generierung das Problem?
Sie versetzt Sie in das bessere Regime, was ein großer Gewinn ist, aber die geerdeten Raten in diesem Beitrag wurden bereits mit vorgelegtem Quelldokument gemessen. Jede dieser Zahlen ist ein Restfehler, den die Erdung nicht beseitigt hat. Der Abruf fügt zudem einen eigenen Fehlermodus hinzu: Wird das falsche Dokument geholt, entsteht eine selbstbewusste Antwort, die getreu in der falschen Quelle verankert ist.
Warum klingt das Modell so sicher, wenn es falsch liegt?
Weil Spezifik belohnt wurde und Zurückhaltung nicht. Unter binärer Benotung erhalten eine vage und eine falsche Antwort gleichermaßen null, während eine spezifische Vermutung die Chance auf eins hat. Flüssige Selbstsicherheit ist das antrainierte Ergebnis dieses Anreizes, kein Signal über die Antwort.
Bringt es etwas, das Modell zu fragen, ob es sicher ist?
Wenig. Angegebene Konfidenz wird systematisch überschätzt. Die SimpleQA-Autoren haben das direkt gemessen, indem sie Modelle nach einem Konfidenzprozentsatz fragten und ihn mit der tatsächlichen Genauigkeit verglichen, und fanden durchgängige Überschätzung. Wiederholtes Abfragen über frische Sitzungen ist ein besseres Signal als Selbstauskunft, weil es Verhalten misst statt einer Behauptung über Verhalten.
Welche einzelne Gewohnheit fängt die meisten Fehler?
Primärquellen öffnen für jede Zahl und jede Quellenangabe, die eine Entscheidung beeinflusst. Sie adressiert die beiden Mechanismen, die für die meisten folgenreichen beruflichen Fehler verantwortlich sind, willkürliche Fakten und Garbage in, Garbage out, und kostet etwa eine Minute pro Position.
Quellen
- Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala und Edwin Zhang, “Why Language Models Hallucinate”, arXiv-Preprint 2509.04664 Version 1, September 2025. Tabelle 2 zur Benchmark-Bewertung; Abschnitte 3.3 und 3.4 zu Fehlermechanismen; Abschnitt 4.2 zu expliziten Konfidenzzielen.
- OpenAI, “Measuring short-form factuality in large language models”, arXiv-Preprint 2411.04368, November 2024, mit der Einführung des SimpleQA-Benchmarks. Tabelle 3 zur Modellleistung; Abschnitt 4 zur Kalibrierung.
- Vectara, Hallucination Leaderboard, berechnet mit dem Hallucination Evaluation Model auf einem nicht veröffentlichten Korpus von über 7.700 Dokumenten, Fassung vom 11. Mai 2026.
- Vapnik und Chervonenkis, grundlegende Arbeit zur Dimension von Funktionenfamilien, von Kalai und Kollegen als Basis der Analyse willkürlicher Fakten angeführt.
- I. J. Good, zur Schätzung der Häufigkeiten unbeobachteter Arten, der Missing-Mass-Schätzer hinter dem Singleton-Argument.
- Stanford Institute for Human-Centered Artificial Intelligence, Artificial Intelligence Index Report, zur Praxis der Modellevaluation und zur Sättigung von Benchmarks.
Dieser Inhalt wurde nach eingehender Recherche mit Unterstützung von KI zusammengestellt und vom CEOtudent-Redaktionsteam geschrieben und für die Veröffentlichung aufbereitet.
This post is also available in:
