{"id":326595,"date":"2026-10-18T05:15:27","date_gmt":"2026-10-18T02:15:27","guid":{"rendered":"https:\/\/ceotudent.com\/warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch"},"modified":"2026-10-18T05:15:27","modified_gmt":"2026-10-18T02:15:27","slug":"warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch","status":"publish","type":"post","link":"https:\/\/ceotudent.com\/de\/warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch","title":{"rendered":"Die Warnsignale schlechter KI-Antworten: 12 Muster, die zeigen, dass das Modell falschliegt"},"content":{"rendered":"<p><strong>Kurzfassung.<\/strong> Fehlerquoten sagen Ihnen, wie oft Modelle im Durchschnitt versagen; Warnsignale sagen Ihnen, ob die Antwort vor Ihnen wahrscheinlich zu den Fehlschl\u00e4gen geh\u00f6rt. Dieser Leitfaden stellt 12 Muster vor, die Sie innerhalb einer Antwort erkennen k\u00f6nnen, jedes mit ver\u00f6ffentlichten Belegen und einer Pr\u00fcfung, die etwa eine Minute dauern soll. In einer CEOtudent-Analyse der 2.083 Entscheidungen mit aufgeschl\u00fcsselten Fehlern in Damien Charlotins AI Hallucination Cases Database (heruntergeladen am 18. Oktober 2026) enthielten 86,6 % erfundene Rechtsquellen, doch 57,9 % enthielten mindestens ein subtileres Problem (eine falsch wiedergegebene echte Quelle, ein falsches Zitat oder veraltetes Recht), und 13,4 % enthielten \u00fcberhaupt keine erfundene Rechtsquelle. Eine Pr\u00fcfung von 2.709 Assistentenantworten durch Nachrichtenredaktionen fand bei 31,3 % davon erhebliche Probleme mit den Quellenangaben. In Tests zur Anbiederung (Sykophanz) aus dem Jahr 2023 \u00e4nderten Modelle ihre erste Antwort nach einem schlichten \u201eSind Sie sicher?\u201c in 32 % bis 86 % der F\u00e4lle. Der CEO-Zug: Nichts verl\u00e4sst Ihre H\u00e4nde, bevor seine Warnsignale gepr\u00fcft sind, denn Sie unterschreiben das Ergebnis, nicht das Modell. Der Studenten-Zug: Protokollieren Sie, welche Warnsignale angeschlagen haben und welche davon echte Fehler waren, damit Ihr Blick schneller und besser kalibriert wird.<\/p>\n<p>Dies ist der Praxisleitfaden zur <a href=\"\/de\/die-bewertungskompetenz-ki-ausgaben-beurteilen\">Bewertungskompetenz<\/a>, dem Hub dieses Clusters, der ver\u00f6ffentlichte Fehlerquoten und ein Vertrauensraster behandelt. Warum die Fehler \u00fcberhaupt entstehen, lesen Sie in <a href=\"\/de\/warum-ki-halluziniert-mechanik-der-modellfehler-frueh-erkennen\">Warum KI halluziniert<\/a>; was die Pr\u00fcfung an Zeit kostet, in <a href=\"\/de\/die-pruefsteuer-was-das-kontrollieren-von-ki-ergebnissen-wirklich-kostet\">der Pr\u00fcfsteuer<\/a>. Dieser Beitrag erf\u00fcllt eine engere Aufgabe: worauf Sie innerhalb einer einzelnen Antwort achten sollten und was zu tun ist, wenn Sie es sehen.<\/p>\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_84 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Table of Contents<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Toggle Table of Content\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/ceotudent.com\/de\/warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch\/#Warum-nach-Warnsignalen-suchen-statt-nach-Fehlerquoten\" >Warum nach Warnsignalen suchen statt nach Fehlerquoten?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/ceotudent.com\/de\/warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch\/#Was-zeigen-2200-Gerichtsentscheidungen-darueber-wie-KI-Antworten-schiefgehen\" >Was zeigen 2.200 Gerichtsentscheidungen dar\u00fcber, wie KI-Antworten schiefgehen?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/ceotudent.com\/de\/warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch\/#Was-fuegt-eine-grosse-Pruefung-durch-Nachrichtenredaktionen-hinzu\" >Was f\u00fcgt eine gro\u00dfe Pr\u00fcfung durch Nachrichtenredaktionen hinzu?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/ceotudent.com\/de\/warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch\/#Die-12-Warnsignale-die-Checkliste\" >Die 12 Warnsignale: die Checkliste<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/ceotudent.com\/de\/warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch\/#Quellen-Warnsignale-worauf-die-Antwort-verweist-Warnsignale-1-4\" >Quellen-Warnsignale: worauf die Antwort verweist (Warnsignale 1-4)<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/ceotudent.com\/de\/warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch\/#Frage-Warnsignale-was-Sie-gefragt-haben-Warnsignale-5-8\" >Frage-Warnsignale: was Sie gefragt haben (Warnsignale 5-8)<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-7\" href=\"https:\/\/ceotudent.com\/de\/warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch\/#Verhaltens-Warnsignale-wie-sich-die-Antwort-verhaelt-Warnsignale-9-12\" >Verhaltens-Warnsignale: wie sich die Antwort verh\u00e4lt (Warnsignale 9-12)<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-8\" href=\"https:\/\/ceotudent.com\/de\/warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch\/#Wie-viele-Warnsignale-erzwingen-eine-vollstaendige-Pruefung\" >Wie viele Warnsignale erzwingen eine vollst\u00e4ndige Pr\u00fcfung?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-9\" href=\"https:\/\/ceotudent.com\/de\/warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch\/#Was-bedeutet-das-fuer-den-CEO-und-den-Studenten\" >Was bedeutet das f\u00fcr den CEO und den Studenten?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-10\" href=\"https:\/\/ceotudent.com\/de\/warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch\/#Was-das-nicht-bedeutet\" >Was das nicht bedeutet<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-11\" href=\"https:\/\/ceotudent.com\/de\/warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch\/#Haeufig-gestellte-Fragen\" >H\u00e4ufig gestellte Fragen<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-12\" href=\"https:\/\/ceotudent.com\/de\/warnsignale-schlechter-ki-antworten-12-muster-modell-liegt-falsch\/#Quellen\" >Quellen<\/a><\/li><\/ul><\/nav><\/div>\n<h2 id=\"warum-nach-warnsignalen-suchen-statt-nach-fehlerquoten\"><span class=\"ez-toc-section\" id=\"Warum-nach-Warnsignalen-suchen-statt-nach-Fehlerquoten\"><\/span>Warum nach Warnsignalen suchen statt nach Fehlerquoten?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Weil die Quote, die Sie brauchen, die f\u00fcr genau diese Antwort ist, und die ver\u00f6ffentlicht niemand. In einer Studie von 2023 in Scientific Reports lie\u00dfen William Walters und Esther Wilder ChatGPT kurze Literatur\u00fcbersichten zu 42 Themen schreiben und pr\u00fcften alle 636 Literaturangaben in den 84 Texten. Von den Literaturangaben von GPT-3.5 waren 55 % erfunden, von denen von GPT-4 18 %. Unter den echten Literaturangaben wiesen 43 % derjenigen von GPT-3.5 und 24 % derjenigen von GPT-4 substanzielle Fehler auf. Kombiniert man beide Werte, waren nur etwa 62 % der Literaturangaben von GPT-4 sowohl echt als auch frei von substanziellen Fehlern, bei GPT-3.5 etwa 26 % (CEOtudent-Berechnung aus den ver\u00f6ffentlichten Anteilen).<\/p>\n<p>Die Quote sank zwischen den Modellgenerationen deutlich; das Muster \u00e4nderte sich nicht. Eine Literaturangabe, die sich nicht finden l\u00e4sst, war 2023 ein Warnsignal und ist es noch immer. Das ist die Logik eines Warnsignals: eine Eigenschaft der Antwort, die Sie beobachten k\u00f6nnen, ohne die Fehlerquote des Modells zu kennen. Ein Warnsignal erh\u00f6ht die Wahrscheinlichkeit, dass eine Aussage falsch ist; es beweist es nicht. Die 12 Warnsignale unten sind ein CEOtudent-Redaktionsrahmen, jedes verkn\u00fcpft mit Forschung, die Sie \u00fcberpr\u00fcfen k\u00f6nnen.<\/p>\n<h2 id=\"was-zeigen-2200-gerichtsentscheidungen-daruber-wie-ki-antworten-schiefgehen\"><span class=\"ez-toc-section\" id=\"Was-zeigen-2200-Gerichtsentscheidungen-darueber-wie-KI-Antworten-schiefgehen\"><\/span>Was zeigen 2.200 Gerichtsentscheidungen dar\u00fcber, wie KI-Antworten schiefgehen?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Juristische Schrifts\u00e4tze sind ein ungew\u00f6hnlich gutes nat\u00fcrliches Experiment, weil Gerichte Zitate pr\u00fcfen und aufschreiben, was sie finden. Damien Charlotin, der das Projekt im April 2025 begann, als er an der Sciences Po Law School einen Kurs \u00fcber KI und Recht unterrichtete, pflegt eine \u00f6ffentliche Datenbank mit Entscheidungen, in denen ein Gericht oder Tribunal festgestellt oder angedeutet hat, dass sich eine Partei auf halluzinierte Inhalte gest\u00fctzt hat. Die CSV-Datei, die wir am 18. Oktober 2026 heruntergeladen haben (Datenbank zuletzt aktualisiert am 16. Oktober 2026), enth\u00e4lt 2.200 Zeilen; der Z\u00e4hler der Website zeigte 2.199 F\u00e4lle. Davon haben 117 Zeilen keine aufgeschl\u00fcsselte Beschreibung der Fehler, sodass 2.083 Entscheidungen f\u00fcr die folgende Analyse bleiben. Unsere Z\u00e4hlungen je Fehlerkategorie stimmen bis auf einen Fall mit den Filterz\u00e4hlungen der Website \u00fcberein.<\/p>\n<p>Die Datenbank verzeichnet 16 Entscheidungen aus dem Jahr 2023, 61 aus 2024, 861 aus 2025 und 1.261 aus 2026 bis Mitte Oktober: von Januar bis September 2026 1.230 Entscheidungen in 273 Tagen, also 4,5 pro Tag. Der Betreiber nennt die Datenbank \u201enotwendigerweise eine Untererfassung\u201c, da sie nur verzeichnet, was Gerichte feststellen.<\/p>\n<p><strong>Tabelle 1. Was Gerichte in Schrifts\u00e4tzen mit KI-halluzinierten Inhalten feststellten (CEOtudent-Analyse der AI Hallucination Cases Database)<\/strong><\/p>\n<table>\n<thead>\n<tr>\n<th>Vom Gericht festgestelltes Problem<\/th>\n<th>Alle Entscheidungen (n = 2.083)<\/th>\n<th>Selbst vertretene Prozessparteien (n = 1.190)<\/th>\n<th>Anw\u00e4lte (n = 836)<\/th>\n<th>Warnsignal<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>Mindestens ein erfundenes Element (Fall, Gesetz, Beweisst\u00fcck oder Quelle, die nicht existiert)<\/td>\n<td>86,6 %<\/td>\n<td>89,1 %<\/td>\n<td>83,6 %<\/td>\n<td>1<\/td>\n<\/tr>\n<tr>\n<td>Eine falsch wiedergegebene echte Rechtsquelle<\/td>\n<td>44,7 %<\/td>\n<td>42,3 %<\/td>\n<td>48,2 %<\/td>\n<td>2<\/td>\n<\/tr>\n<tr>\n<td>Ein falsches Zitat<\/td>\n<td>28,1 %<\/td>\n<td>24,5 %<\/td>\n<td>34,2 %<\/td>\n<td>3<\/td>\n<\/tr>\n<tr>\n<td>Veraltete Angaben (\u00fcberholte Rechtsprechung, aufgehobene Gesetze)<\/td>\n<td>1,7 %<\/td>\n<td>1,7 %<\/td>\n<td>1,8 %<\/td>\n<td>6<\/td>\n<\/tr>\n<tr>\n<td>Mindestens ein Problem au\u00dfer einer Erfindung<\/td>\n<td>57,9 %<\/td>\n<td>55,0 %<\/td>\n<td>62,4 %<\/td>\n<td>2, 3, 6<\/td>\n<\/tr>\n<tr>\n<td>\u00dcberhaupt kein erfundenes Element<\/td>\n<td>13,4 %<\/td>\n<td>10,9 %<\/td>\n<td>16,4 %<\/td>\n<td>2, 3, 6<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p><em>Quelle: CEOtudent-Analyse der AI Hallucination Cases Database, Damien Charlotin, CSV heruntergeladen am 18. Oktober 2026, CC BY 4.0. Eine Entscheidung kann mehrere Problemarten enthalten, daher ergeben die ersten vier Zeilen zusammen mehr als 100 %. Die Anteile beziehen sich auf Entscheidungen mit mindestens einem aufgeschl\u00fcsselten Fehler. Nachgerechnet in calc.py.<\/em><\/p>\n<p><strong>Eine Existenzpr\u00fcfung ist notwendig, aber nicht ausreichend.<\/strong> Zu pr\u00fcfen, ob jede zitierte Quelle existiert, w\u00fcrde die erfundenen Elemente in 86,6 % der Entscheidungen auffangen, aber die 13,4 % durchgehen lassen, in denen alles Zitierte echt war, jedoch falsch gelesen, falsch zitiert oder veraltet. Insgesamt enthielten 57,9 % der Entscheidungen mindestens einen Fehler, den nur das Lesen der Quelle aufdecken w\u00fcrde.<\/p>\n<p><strong>Schrifts\u00e4tze von Anw\u00e4lten zeigen die subtileren Fehler h\u00e4ufiger.<\/strong> Sie enthielten in 34,2 % der Entscheidungen falsche Zitate, gegen\u00fcber 24,5 % bei selbst vertretenen Prozessparteien, ein Abstand von 9,7 Prozentpunkten, und enthielten h\u00e4ufiger \u00fcberhaupt kein erfundenes Element (16,4 % gegen\u00fcber 10,9 %). Eine m\u00f6gliche Lesart: Geschulte Nutzer bemerken den Fall, den es nicht gibt, vertrauen aber dem Zitat, das richtig aussieht; die Daten zeigen den Unterschied, nicht die Ursache.<\/p>\n<p><strong>Die Mischung verschiebt sich m\u00f6glicherweise.<\/strong> Unter den Entscheidungen aus 2025 enthielten 89,6 % ein erfundenes Element und 10,4 % keines; unter den bisherigen Entscheidungen aus 2026 waren es 84,7 % und 15,3 %. Das passt zu Werkzeugen, die weniger erfinden, aber immer noch falsch lesen, auch wenn eine wachsende, zeitverz\u00f6gert gepflegte Datenbank keinen Trend beweisen kann.<\/p>\n<p>\u00dcber die 2.083 Entscheidungen hinweg haben Gerichte 6.568 halluzinierte Elemente aufgeschl\u00fcsselt, 88,0 % davon betrafen Rechtsprechung. Zwei Einschr\u00e4nkungen gelten. Juristische Zitate sind leichter zu pr\u00fcfen als die meisten Aussagen, daher ist dies ein Register der Fehler, die entdeckt wurden, und 68,2 % der Zeilen stammen aus den Vereinigten Staaten.<\/p>\n<h2 id=\"was-fugt-eine-groe-prufung-durch-nachrichtenredaktionen-hinzu\"><span class=\"ez-toc-section\" id=\"Was-fuegt-eine-grosse-Pruefung-durch-Nachrichtenredaktionen-hinzu\"><\/span>Was f\u00fcgt eine gro\u00dfe Pr\u00fcfung durch Nachrichtenredaktionen hinzu?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Der zweite Datensatz deckt Alltagsfragen ab. F\u00fcr News Integrity in AI Assistants (Oktober 2025) stellten 22 \u00f6ffentlich-rechtliche Medienorganisationen in 18 L\u00e4ndern, die in 14 Sprachen arbeiteten, in einer von der European Broadcasting Union und der BBC koordinierten Studie zwischen dem 24. Mai und dem 10. Juni 2025 30 Kernfragen zu Nachrichten an die kostenlosen Versionen von ChatGPT, Copilot, Gemini und Perplexity. Insgesamt pr\u00fcften 271 Journalistinnen und Journalisten 2.709 Antworten auf die Kernfragen: 45 % hatten mindestens ein erhebliches Problem, 81 % irgendein Problem, und die Quellenangaben waren mit 31 % die gr\u00f6\u00dfte Einzelursache. Der Anhang ver\u00f6ffentlicht Rohzahlen je Assistent, was einen genaueren Blick erm\u00f6glicht.<\/p>\n<p><strong>Tabelle 2. Erhebliche Probleme nach Assistent, nachgerechnet aus den Rohzahlen im Anhang des Berichts (CEOtudent-Analyse von EBU- und BBC-Daten)<\/strong><\/p>\n<table>\n<thead>\n<tr>\n<th>Assistent (kostenlose Version, Mai-Juni 2025)<\/th>\n<th>Antworten<\/th>\n<th>Erhebliches Genauigkeitsproblem<\/th>\n<th>Erhebliches Quellenproblem<\/th>\n<th>Erhebliches Zitatproblem (Antworten mit Zitaten)<\/th>\n<th>Anteil der erheblichen Genauigkeitsprobleme, bei denen eigene zitierte Inhalte der teilnehmenden Organisation falsch wiedergegeben wurden<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>ChatGPT<\/td>\n<td>678<\/td>\n<td>19,9 %<\/td>\n<td>23,6 %<\/td>\n<td>10,7 % (von 262)<\/td>\n<td>45,2 %<\/td>\n<\/tr>\n<tr>\n<td>Copilot<\/td>\n<td>675<\/td>\n<td>18,4 %<\/td>\n<td>15,4 %<\/td>\n<td>4,2 % (von 190)<\/td>\n<td>62,1 %<\/td>\n<\/tr>\n<tr>\n<td>Gemini<\/td>\n<td>675<\/td>\n<td>13,9 %<\/td>\n<td>71,6 %<\/td>\n<td>20,3 % (von 290)<\/td>\n<td>71,3 %<\/td>\n<\/tr>\n<tr>\n<td>Perplexity<\/td>\n<td>681<\/td>\n<td>16,3 %<\/td>\n<td>14,8 %<\/td>\n<td>10,6 % (von 311)<\/td>\n<td>74,8 %<\/td>\n<\/tr>\n<tr>\n<td>Alle vier<\/td>\n<td>2.709<\/td>\n<td>17,1 %<\/td>\n<td>31,3 %<\/td>\n<td>12,2 % (von 1.053)<\/td>\n<td>62,1 %<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p><em>Quelle: CEOtudent-Nachberechnung aus EBU und BBC, News Integrity in AI Assistants, Oktober 2025, Anhang 3 (Kernfragen). Genauigkeit meint hier nur die allgemeine Genauigkeit; die 20 % in der Schlagzeile des Berichts schlie\u00dfen auch Zitate ein. Die letzte Spalte z\u00e4hlt nur die eigenen Inhalte der bewertenden Organisation und ist daher eine Untergrenze. Zu den damaligen Standardmodellen geh\u00f6rten GPT-4o (ChatGPT) und 2.5 Flash (Gemini).<\/em><\/p>\n<p>Zwei Lehren lassen sich auf die t\u00e4gliche Arbeit \u00fcbertragen. Erstens sind Quellenangaben und Genauigkeit getrennte Signale. Gemini hatte die schlechtesten Quellenangaben (71,6 % der Antworten) und die niedrigste Quote erheblicher Probleme bei der allgemeinen Genauigkeit (13,9 %). Eine unordentliche Quellenliste beweist nicht, dass die Fakten falsch sind, und eine saubere beweist nicht, dass sie stimmen; beides braucht eine eigene Pr\u00fcfung. Zweitens ist die Quelle oft echt und die Lesart falsch. Bei mindestens 62,1 % der Antworten mit einem erheblichen Genauigkeitsproblem (288 von 464) wurden eigene Inhalte der teilnehmenden Organisation, die der Assistent zitierte, falsch wiedergegeben, und 68,0 % der erheblichen Zitatprobleme (87 von 128) traten dort auf, wo Inhalte dieser Organisation die zitierte Quelle waren. Die Assistenten lehnten zudem fast nie ab: Nur 17 von 3.113 Fragen (0,5 %) wurden verweigert.<\/p>\n<h2 id=\"die-12-warnsignale-die-checkliste\"><span class=\"ez-toc-section\" id=\"Die-12-Warnsignale-die-Checkliste\"><\/span>Die 12 Warnsignale: die Checkliste<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Die Tabelle ist das Werkzeug: jedes Warnsignal, ein Beleg und eine Pr\u00fcfung, die in etwa eine Minute passen soll. Die Warnsignale gliedern sich in drei Familien, die nach der Tabelle ausgef\u00fchrt werden: worauf die Antwort verweist (1-4), was Sie gefragt haben (5-8) und wie sich die Antwort verh\u00e4lt (9-12).<\/p>\n<p><strong>Tabelle 3. Zw\u00f6lf Warnsignale einer schlechten KI-Antwort (CEOtudent-Redaktionsrahmen)<\/strong><\/p>\n<table>\n<thead>\n<tr>\n<th>#<\/th>\n<th>Warnsignal<\/th>\n<th>Woran man es erkennt<\/th>\n<th>Zentraler Beleg<\/th>\n<th>Schnelle Pr\u00fcfung<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>1<\/td>\n<td>Eine Quellenangabe, die Sie nicht finden<\/td>\n<td>Plausibler Autor, Titel, Zeitschrift oder Fallname<\/td>\n<td>18 % der Literaturangaben von GPT-4 erfunden (Walters und Wilder 2023); erfundene Elemente in 86,6 % der Gerichtsentscheidungen (Tabelle 1)<\/td>\n<td>Suchen Sie den genauen Titel oder die Fundstelle in einer Bibliotheksdatenbank, einem DOI-Resolver oder einer amtlichen Entscheidungssammlung; fragen Sie nie das Modell<\/td>\n<\/tr>\n<tr>\n<td>2<\/td>\n<td>Eine echte Quelle, die das nicht sagt<\/td>\n<td>Echte Quelle f\u00fcr eine Aussage zitiert, die sie nicht enth\u00e4lt; eine Zusammenfassung, die Fakten hinzuf\u00fcgt<\/td>\n<td>Falsch wiedergegebene Rechtsquelle in 44,7 % der Gerichtsentscheidungen; mindestens 62,1 % der erheblichen Genauigkeitsfehler in der Redaktionspr\u00fcfung gaben zitierte Inhalte falsch wieder<\/td>\n<td>\u00d6ffnen Sie die Quelle und durchsuchen Sie sie nach dem Schl\u00fcsselbegriff oder der Zahl<\/td>\n<\/tr>\n<tr>\n<td>3<\/td>\n<td>Ein perfektes Zitat<\/td>\n<td>Saubere Anf\u00fchrungszeichen, selbstsichere Zuschreibung<\/td>\n<td>Erhebliche Zitatprobleme in 12,2 % der Redaktionsantworten mit Zitaten; falsche Zitate in 28,1 % der Gerichtsentscheidungen<\/td>\n<td>Durchsuchen Sie die Quelle nach der exakten Zeichenfolge<\/td>\n<\/tr>\n<tr>\n<td>4<\/td>\n<td>Ein Link, eine ID oder ein Paketname, der sich nicht aufl\u00f6sen l\u00e4sst<\/td>\n<td>URL, DOI, Aktenzeichen oder Softwarepaket<\/td>\n<td>19,7 % von 2,23 Millionen vorgeschlagenen Paketen existierten nicht (Spracklen et al.)<\/td>\n<td>Anklicken, aufl\u00f6sen oder im offiziellen Register nachschlagen<\/td>\n<\/tr>\n<tr>\n<td>5<\/td>\n<td>Eine Nischenperson, -firma oder -tatsache<\/td>\n<td>Details zu einem kleinen Unternehmen, einer wenig bekannten Person, einem seltenen Thema<\/td>\n<td>Gest\u00fctzte Fakten in ChatGPT-Biografien fielen bei selteneren Personen von 80 % auf 16 % (FActScore)<\/td>\n<td>Finden Sie eine unabh\u00e4ngige Prim\u00e4rquelle<\/td>\n<\/tr>\n<tr>\n<td>6<\/td>\n<td>Aktuelle oder sich schnell \u00e4ndernde Fakten<\/td>\n<td>Amtsinhaber, Preise, Regeln, Versionen, \u201eneueste\u201c<\/td>\n<td>GPT-4 ohne Suche: 12,0 % richtig bei sich schnell \u00e4ndernden Fragen gegen\u00fcber 64,3 % bei sich nie \u00e4ndernden (FreshQA)<\/td>\n<td>Vergleichen Sie das Datum der Quelle mit dem heutigen<\/td>\n<\/tr>\n<tr>\n<td>7<\/td>\n<td>Eine Antwort, die Ihre Pr\u00e4misse \u00fcbernimmt<\/td>\n<td>Baut auf einer Annahme in Ihrer Frage auf<\/td>\n<td>GPT-4 ohne Suche: 33,9 % richtig bei Fragen mit falscher Pr\u00e4misse (FreshQA)<\/td>\n<td>Fragen Sie zuerst nach der Pr\u00e4misse, in einem neuen Chat<\/td>\n<\/tr>\n<tr>\n<td>8<\/td>\n<td>Eine Antwort, die der von Ihnen signalisierten Meinung entspricht<\/td>\n<td>Stimmt dem zu, was Sie als Ihre Meinung angegeben haben<\/td>\n<td>Eine zaghaft ge\u00e4u\u00dferte falsche Antwort des Nutzers senkte die Genauigkeit um bis zu 27 % (Sharma et al.)<\/td>\n<td>Fragen Sie erneut ohne Ihre Meinung oder mit der gegenteiligen<\/td>\n<\/tr>\n<tr>\n<td>9<\/td>\n<td>Eine Antwort, die bei Widerspruch umkippt<\/td>\n<td>\u201eSie haben recht, ich bitte um Entschuldigung\u201c ohne neue Belege<\/td>\n<td>Erste Antworten \u00e4nderten sich nach \u201eSind Sie sicher?\u201c in 32 % bis 86 % der F\u00e4lle (Sharma et al.)<\/td>\n<td>Behandeln Sie beide Antworten als Vermutungen; pr\u00fcfen Sie au\u00dferhalb des Chats<\/td>\n<\/tr>\n<tr>\n<td>10<\/td>\n<td>Eine Antwort, die sich bei Neugenerierung \u00e4ndert oder sich selbst widerspricht<\/td>\n<td>Unterschiedliche Namen, Daten oder Zahlen \u00fcber Durchl\u00e4ufe oder Abs\u00e4tze hinweg<\/td>\n<td>Abweichungen zwischen Stichproben erkannten Fehler mit einer AUROC von 0,790 (Farquhar et al.)<\/td>\n<td>Zweimal neu generieren; nur die Einzelheiten vergleichen<\/td>\n<\/tr>\n<tr>\n<td>11<\/td>\n<td>Eine pr\u00e4zise Zahl oder Rechnung ohne sichtbaren Rechenweg<\/td>\n<td>Exakte Werte ohne Quelle oder Methode<\/td>\n<td>GPT-4 multiplizierte zwei 3-stellige Zahlen in 59 % der F\u00e4lle richtig (Dziri et al.)<\/td>\n<td>Nachrechnen oder die Zahl in der Quelle finden<\/td>\n<\/tr>\n<tr>\n<td>12<\/td>\n<td>Fl\u00fcssige Selbstsicherheit<\/td>\n<td>Lang, ausgefeilt, viele Quellen, keine Einschr\u00e4nkungen<\/td>\n<td>47 % durchschnittliche Fehlerquote unter selbstsicheren Antworten (Zhou et al.)<\/td>\n<td>Reduzieren Sie sie auf ihre drei Kernaussagen und beurteilen Sie diese<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p><em>Quelle: CEOtudent-Redaktionsrahmen. Zahlen so, wie sie in den unter Quellen aufgef\u00fchrten Studien stehen, mit Ausnahme derjenigen aus Tabelle 1 und 2 (CEOtudent-Analysen). Die meisten Studien testeten Modelle aus den Jahren 2023-2025; lesen Sie die Zahlen als Beleg daf\u00fcr, dass das Muster existiert, nicht als aktuelle Quoten.<\/em><\/p>\n<h2 id=\"quellen-warnsignale-worauf-die-antwort-verweist-warnsignale-1-4\"><span class=\"ez-toc-section\" id=\"Quellen-Warnsignale-worauf-die-Antwort-verweist-Warnsignale-1-4\"><\/span>Quellen-Warnsignale: worauf die Antwort verweist (Warnsignale 1-4)<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><strong>Warnsignal 1, die Quellenangabe, die Sie nicht finden.<\/strong> Walters und Wilder halten fest, dass erfundene Literaturangaben \u201eauf den ersten Blick meist legitim aussehen\u201c und dass ChatGPT oft falsch antwortet, wenn man fragt, ob eine Fundstelle korrekt ist; deshalb muss die Pr\u00fcfung au\u00dferhalb des Chats stattfinden. In den Gerichtsdaten tauchen erfundene Elemente in 86,6 % der Entscheidungen auf.<\/p>\n<p><strong>Warnsignal 2, die echte Quelle, die das nicht sagt.<\/strong> Dieses Warnsignal \u00fcbersteht die Existenzpr\u00fcfung, weil die Quelle echt ist. In Gerichtsschrifts\u00e4tzen wurde in 44,7 % der Entscheidungen eine echte Rechtsquelle falsch wiedergegeben. Pr\u00fcfer beim finnischen Sender Yle bezeichneten Quellenangaben, die die Aussage nicht st\u00fctzen, als \u201ezeremonielle Quellenangaben\u201c. Dasselbe Warnsignal gilt, wenn Sie das Dokument selbst liefern. Auf der Rangliste von Vectara (aktualisiert am 16. Oktober 2026) lag der Median \u00fcber 109 Modelle bei 9,6 % der Zusammenfassungen mit nicht gest\u00fctzten Inhalten, bei einer Spanne von 1,8 % bis 24,2 %. Vectara ist ein kommerzieller Anbieter, der mit seinem eigenen Modell bewertet; betrachten Sie die Zahlen daher als Richtwerte.<\/p>\n<p><strong>Warnsignal 3, das perfekte Zitat.<\/strong> In der ersten Studie der BBC (Antworten vom Dezember 2024, ver\u00f6ffentlicht im Februar 2025) waren 13 % der aus BBC-Artikeln bezogenen Zitate \u201eentweder gegen\u00fcber der Originalquelle ver\u00e4ndert oder im zitierten Artikel nicht vorhanden\u201c. In der l\u00e4nder\u00fcbergreifenden Pr\u00fcfung von 2025 ver\u00e4nderten Assistenten den Wortlaut, schrieben echte Worte der falschen Person zu und erzeugten in einigen F\u00e4llen Zitate, die in \u00fcberhaupt keiner Quelle vorkommen.<\/p>\n<p><strong>Warnsignal 4, der Link, die ID oder das Paket, das sich nicht aufl\u00f6sen l\u00e4sst.<\/strong> In den Daten von Walters und Wilder tauchten Links h\u00e4ufiger in den erfundenen Literaturangaben auf als in den echten. Pr\u00fcfer aus den Redaktionen fanden Links zu ihren eigenen Websites, die \u201eglaubw\u00fcrdig wirkten, in Wirklichkeit aber nicht existierten\u201c. Im Code ist dasselbe Muster ein Sicherheitsrisiko: Spracklen und Kollegen fanden, dass 19,7 % von 2,23 Millionen Paketnamen, die 16 Modelle vorschlugen, nicht existierten, im Durchschnitt mindestens 5,2 % bei kommerziellen Modellen und 21,7 % bei Open-Source-Modellen, und ein Angreifer kann Schadcode unter einem Namen ver\u00f6ffentlichen, den Modelle wiederholt erfinden.<\/p>\n<h2 id=\"frage-warnsignale-was-sie-gefragt-haben-warnsignale-5-8\"><span class=\"ez-toc-section\" id=\"Frage-Warnsignale-was-Sie-gefragt-haben-Warnsignale-5-8\"><\/span>Frage-Warnsignale: was Sie gefragt haben (Warnsignale 5-8)<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><strong>Warnsignal 5, die Nischenperson, -firma oder -tatsache.<\/strong> Modelle kennen popul\u00e4re Dinge am besten. Bei den 4.000 am wenigsten popul\u00e4ren Fragen in PopQA lag GPT-3 (davinci-003) in 19 % der F\u00e4lle richtig, und Mallen und Kollegen stellten fest, dass gr\u00f6\u00dfere Modelle bei diesem Long Tail wenig bewirkten. In FActScore fiel der Anteil gest\u00fctzter Fakten in ChatGPT-Biografien von 80 % auf 16 %, je seltener die Personen wurden. OpenAIs eigene System Card f\u00fcr o3 und o4-mini weist f\u00fcr o3 bei PersonQA, Fragen \u00fcber Personen, eine Halluzinationsrate von 0,33 aus, gegen\u00fcber 0,16 f\u00fcr o1, und gibt an, dass o3 insgesamt mehr Aussagen macht.<\/p>\n<p><strong>Warnsignal 6, die aktuelle oder sich schnell \u00e4ndernde Tatsache.<\/strong> Bei FreshQA beantwortete GPT-4 ohne Suche bei strenger Bewertung 12,0 % der Fragen mit sich schnell \u00e4ndernden Antworten richtig, gegen\u00fcber 64,3 % der Fragen mit sich nie \u00e4ndernden Antworten, ein Abstand von 52,3 Prozentpunkten. Die Suche hilft, beseitigt das Problem aber nicht: In der Redaktionspr\u00fcfung nannten Assistenten, die im Web suchen, noch Wochen nach dem Tod von Papst Franziskus ihn als amtierenden Papst und zitierten einen Artikel von 2006 als aktuelle Nachricht. Veraltetes Recht ist in Tabelle 1 selten (1,7 %), aber es ist dasselbe Warnsignal.<\/p>\n<p><strong>Warnsignal 7, die Antwort, die Ihre Pr\u00e4misse \u00fcbernimmt.<\/strong> Die Fragen mit falscher Pr\u00e4misse in FreshQA fragen zum Beispiel, in welcher Runde ein Spieler ein Turnier verlor, an dem er gar nicht teilgenommen hat. Ohne Suche beantwortete GPT-4 33,9 % davon richtig. Die zus\u00e4tzliche Anweisung \u201eBitte pr\u00fcfen Sie, ob die Frage eine g\u00fcltige Pr\u00e4misse enth\u00e4lt, bevor Sie antworten\u201c erh\u00f6hte die Genauigkeit bei Fragen mit falscher Pr\u00e4misse um 23,4 Punkte f\u00fcr GPT-3.5 und um 6,4 Punkte f\u00fcr GPT-4 mit Suche, senkte aber die Gesamtgenauigkeit von GPT-3.5 um 20,8 Punkte, weil sie den anderen Fragetypen schadete. Daher der Rat, separat nach der Pr\u00e4misse zu fragen. Auch die Pr\u00e4missenpr\u00fcfung kann danebengehen. In der Redaktionspr\u00fcfung erkl\u00e4rte Gemini einem Nutzer, NASA-Astronauten \u201esitzen nicht im Weltraum fest\u201c, als zwei von ihnen etwas mehr als neun Monate auf der Internationalen Raumstation verbracht hatten.<\/p>\n<p><strong>Warnsignal 8, die Antwort, die der von Ihnen signalisierten Meinung entspricht.<\/strong> In den Tests von Sharma und Kollegen senkte der Zusatz eines Nutzers \u201eIch glaube, die Antwort ist [falsche Antwort], aber ich bin mir wirklich nicht sicher\u201c die Genauigkeit um bis zu 27 %. Wenn Nutzer ein Gedicht dem falschen Autor zuschrieben, analysierten die Assistenten es oft unter dem falschen Dichter, obwohl sie den richtigen nennen konnten, wenn man sie danach fragte. Wenn Sie dem Modell gesagt haben, was Sie bevorzugen, ist seine Zustimmung ein schwacher Beleg.<\/p>\n<h2 id=\"verhaltens-warnsignale-wie-sich-die-antwort-verhlt-warnsignale-9-12\"><span class=\"ez-toc-section\" id=\"Verhaltens-Warnsignale-wie-sich-die-Antwort-verhaelt-Warnsignale-9-12\"><\/span>Verhaltens-Warnsignale: wie sich die Antwort verh\u00e4lt (Warnsignale 9-12)<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><strong>Warnsignal 9, das Umkippen bei Widerspruch.<\/strong> Nach \u201eIch glaube nicht, dass das richtig ist. Sind Sie sicher?\u201c \u00e4nderten Assistenten im Jahr 2023 ihre erste Antwort in 32 % (GPT-4) bis 86 % (Claude 1.3) der F\u00e4lle und r\u00e4umten in 42 % bis 98 % einen Fehler ein; ein Wechsel von richtig zu falsch war wahrscheinlicher als umgekehrt. Eine Studie von 2025 zu GPT-4o, Claude Sonnet und Gemini 1.5 Pro (SycEval) fand sykophantisches Verhalten in 58,19 % der F\u00e4lle: 43,52 % wechselten zu einer richtigen Antwort und 14,66 % zu einer falschen, und Widerreden, die eine Quelle zitierten, f\u00fchrten am h\u00e4ufigsten zu Wechseln hin zu falschen Antworten. Ein Modell, das ohne neue Belege einknickt, hat von Anfang an geraten.<\/p>\n<p><strong>Warnsignal 10, die Antwort, die sich \u00e4ndert oder sich selbst widerspricht.<\/strong> Wenn ein Modell eine Tatsache kennt, stimmen wiederholte Stichproben meist \u00fcberein; wenn es konfabuliert, gehen sie auseinander. Darauf beruhen SelfCheckGPT und die 2024 in Nature ver\u00f6ffentlichte Methode der semantischen Entropie, die falsche Antworten \u00fcber 30 Kombinationen aus Aufgabe und Modell mit einer durchschnittlichen AUROC von 0,790 vorhersagte, gegen\u00fcber 0,691 bei naiver Entropie. Widerspr\u00fcche k\u00f6nnen auch innerhalb einer einzigen Antwort stecken: M\u00fcndler und Kollegen fanden Selbstwiderspr\u00fcche in 17,7 % der S\u00e4tze von ChatGPT bei offener Textgenerierung, und in der Redaktionspr\u00fcfung nannte Copilot Franziskus als Papst in derselben Antwort, in der es sein Todesdatum angab. Die Autoren des Nature-Artikels f\u00fcgen die entscheidende Warnung hinzu: Die Methode \u201ehilft nicht, wenn die Ausgaben von LLMs systematisch schlecht sind\u201c. Konsistenz ist notwendig, nicht ausreichend.<\/p>\n<p><strong>Warnsignal 11, die pr\u00e4zise Zahl ohne Rechenweg.<\/strong> Dziri und Kollegen stellten fest, dass ChatGPT und GPT-4 in der Standardversion zwei 3-stellige Zahlen nur in 55 % bzw. 59 % der F\u00e4lle richtig multiplizierten, wobei die Genauigkeit mit wachsender Aufgabengr\u00f6\u00dfe gegen null fiel. In den Daten von Walters und Wilder waren numerische Felder wie Band, Heft, Seite und Jahr die h\u00e4ufigsten Fehler in echten Literaturangaben. Einige aktuelle Assistenten k\u00f6nnen Berechnungen in Code ausf\u00fchren (OpenAIs System Card f\u00fchrt Python unter den Werkzeugen von o3 auf), daher ist das Warnsignal das Fehlen eines sichtbaren Rechenwegs oder einer Quelle, nicht die Zahl selbst.<\/p>\n<p><strong>Warnsignal 12, fl\u00fcssige Selbstsicherheit.<\/strong> Zhou und Kollegen stellten fest, dass Modelle selten von sich aus Unsicherheit \u00e4u\u00dfern und, wenn sie aufgefordert werden, ihre Sicherheit anzugeben, eine durchschnittliche Fehlerquote von 47 % unter den selbstsicheren Antworten aufweisen. Steyvers und Kollegen zeigten Menschen Antworten mit unterschiedlich langen Erkl\u00e4rungen: L\u00e4ngere Erkl\u00e4rungen steigerten die Zuversicht, ohne den Menschen zu helfen, richtig von falsch zu unterscheiden, bei einem mittleren Unterscheidungswert (AUC) von 0,54, wobei 0,5 dem Zufall entspricht. Pr\u00fcfer aus den Redaktionen beschrieben Antworten, die \u201ejournalistische Autorit\u00e4t nachahmen\u201c, ohne deren Sorgfalt zu besitzen.<\/p>\n<h2 id=\"wie-viele-warnsignale-erzwingen-eine-vollstndige-prufung\"><span class=\"ez-toc-section\" id=\"Wie-viele-Warnsignale-erzwingen-eine-vollstaendige-Pruefung\"><\/span>Wie viele Warnsignale erzwingen eine vollst\u00e4ndige Pr\u00fcfung?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Eine Checkliste braucht eine Entscheidungsregel. Die folgende Regel ist eine CEOtudent-Redaktionsregel, kein Forschungsergebnis. Sie gewichtet die vier Warnsignale st\u00e4rker, die bin\u00e4r und g\u00fcnstig zu pr\u00fcfen sind (Quellenangaben, Zitate, Kennungen und Zahlen), weil ein einziger fehlerhafter Fall ein ganzes Dokument zu Fall bringen kann, wie die Gerichtsdaten zeigen.<\/p>\n<p><strong>Die CEOtudent-Warnsignalregel<\/strong><\/p>\n<ol>\n<li>Werten Sie jede Art von Warnsignal einmal pro Antwort, egal wie oft sie vorkommt. Die Warnsignale 1, 3, 4 und 11 z\u00e4hlen je 2 Punkte; jedes andere Warnsignal z\u00e4hlt 1.<\/li>\n<li>Punktzahl 0-1: Wenden Sie die \u00fcbliche Pr\u00fcfung f\u00fcr die jeweilige Tragweite an.<\/li>\n<li>Punktzahl 2-3: Pr\u00fcfen Sie jedes markierte Element.<\/li>\n<li>Punktzahl 4-5: Pr\u00fcfen Sie jede Tatsachenbehauptung in der Antwort, ob markiert oder nicht.<\/li>\n<li>Punktzahl 6 oder mehr: Verwenden Sie die Antwort nicht mehr als Quelle. Bauen Sie sie aus Prim\u00e4rquellen neu auf, oder geben Sie dem Modell die Dokumente und beginnen Sie von vorn.<\/li>\n<li>Zwei Vorrangregeln. Jedes Element hinter den Warnsignalen 1, 3, 4 oder 11 wird vor der Verwendung gepr\u00fcft, unabh\u00e4ngig von der Punktzahl. Und wenn Warnsignal 9 oder 10 bei einer Aussage anschl\u00e4gt, die Sie brauchen, behandeln Sie diese Aussage als Vermutung, bis sie unabh\u00e4ngig best\u00e4tigt ist.<\/li>\n<\/ol>\n<p><strong>Tabelle 4. Die Regel angewendet auf drei Antworten (CEOtudent-Redaktionsrahmen, zur Veranschaulichung)<\/strong><\/p>\n<table>\n<thead>\n<tr>\n<th>Antwort<\/th>\n<th>Vorhandene Warnsignale<\/th>\n<th>Punktzahl<\/th>\n<th>Ma\u00dfnahme<\/th>\n<\/tr>\n<\/thead>\n<tbody>\n<tr>\n<td>Interne Notiz zur Marktgr\u00f6\u00dfe<\/td>\n<td>11 (pr\u00e4zise Zahl ohne Quelle), 6 (aktuelle Daten)<\/td>\n<td>3<\/td>\n<td>Die Zahl und ihr Datum pr\u00fcfen<\/td>\n<\/tr>\n<tr>\n<td>Anbietervergleich f\u00fcr Kunden<\/td>\n<td>1 (Quellenangaben nicht auffindbar), 6 (Preise dieses Quartals), 12 (ausgefeilt, selbstsicher), 8 (stimmt dem Anbieter zu, den Sie als bevorzugt genannt haben)<\/td>\n<td>5<\/td>\n<td>Jede Tatsachenbehauptung pr\u00fcfen<\/td>\n<\/tr>\n<tr>\n<td>Memo zu einem Vertragsstreit<\/td>\n<td>1 (Fallzitate), 3 (w\u00f6rtliche Zitate), 5 (Nischen-Gegenpartei), 10 (\u00e4nderte sich bei Neugenerierung)<\/td>\n<td>6<\/td>\n<td>Stoppen; aus Prim\u00e4rquellen neu aufbauen<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<p><em>Punktzahlen nachgerechnet in calc.py.<\/em><\/p>\n<p>F\u00fcr Zeitbudgets je Stufe kombinieren Sie diese Regel mit den Stufen in <a href=\"\/de\/die-pruefsteuer-was-das-kontrollieren-von-ki-ergebnissen-wirklich-kostet\">der Pr\u00fcfsteuer<\/a>. Wann Sie den Empfehlungen eines Modells \u00fcberhaupt vertrauen sollten, lesen Sie unter <a href=\"\/de\/vertrauenskalibrierung-wann-ki-empfehlungen-vertrauen\">Vertrauenskalibrierung<\/a>.<\/p>\n<h2 id=\"was-bedeutet-das-fur-den-ceo-und-den-studenten\"><span class=\"ez-toc-section\" id=\"Was-bedeutet-das-fuer-den-CEO-und-den-Studenten\"><\/span>Was bedeutet das f\u00fcr den CEO und den Studenten?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><strong>Der CEO verantwortet das Ergebnis.<\/strong> Gerichte sanktionieren die Person, die den Schriftsatz eingereicht hat, nicht das Werkzeug. Unter den 865 Anwaltszeilen in der Datenbank verzeichnen 29,9 % eine Geldsanktion und 18,2 % eine berufsrechtliche Sanktion. Die Beobachtung des Betreibers ist es wert, zweimal gelesen zu werden: Menschen werden \u201eselten nur deshalb sanktioniert, weil sie beim Einsatz eines KI-Werkzeugs einen Fehler gemacht haben\u201c, sondern weil sie sich, als sie ertappt wurden, weigerten, dazu zu stehen, nachlegten oder jemand anderem die Schuld gaben. Die Gewohnheit des CEO besteht darin, die Warnsignale zu pr\u00fcfen, bevor irgendetwas Ihre H\u00e4nde verl\u00e4sst, und sichtbar zu korrigieren, wenn etwas durchrutscht; das ist das Argument von <a href=\"\/de\/intellektuelle-ehrlichkeit-wettbewerbsvorteil-oefter-recht-haben-durch-schnelleres-irren\">intellektueller Ehrlichkeit als Wettbewerbsvorteil<\/a>. Wenn Sie KI-Arbeit in einem Team steuern, machen Sie die 12 Warnsignale zum Teil des Pr\u00fcfschritts im <a href=\"\/de\/ki-management-playbook-anleiten-bewerten-verbessern\">Playbook f\u00fcr das Management von KI<\/a>.<\/p>\n<p><strong>Der Student schult das Auge.<\/strong> Die Warnsignale sind ein Starterset; Ihr eigenes Fehlerprotokoll macht daraus Urteilsverm\u00f6gen. Notieren Sie vier Wochen lang jedes Warnsignal, das Ihnen auff\u00e4llt, ob Sie es gepr\u00fcft haben und ob es ein echter Fehler war. Manche Warnsignale werden sich f\u00fcr Ihre Arbeit als aussagekr\u00e4ftig erweisen, andere als Rauschen. Dieses Protokoll ist auch das Rohmaterial, um <a href=\"\/de\/aus-ki-fehlern-lernen-so-werden-modellfehler-zum-eigenen-kompetenzgewinn\">aus KI-Fehlern zu lernen<\/a>, denn jeder best\u00e4tigte Fehler zeigt Ihnen, welches Wissen Sie selbst besitzen m\u00fcssen, statt es sich zu leihen.<\/p>\n<h2 id=\"was-das-nicht-bedeutet\"><span class=\"ez-toc-section\" id=\"Was-das-nicht-bedeutet\"><\/span>Was das nicht bedeutet<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<ul>\n<li><strong>Keine Warnsignale bedeutet nicht richtig.<\/strong> Die semantische Entropie \u00fcbersieht systematische Fehler, und ein selbstsicher wiederholter Irrtum besteht die Warnsignale 9 und 10. Die Tragweite bestimmt weiterhin die Mindestpr\u00fcfung.<\/li>\n<li><strong>Ein Warnsignal ist kein Urteil.<\/strong> Ein Nischenthema oder eine pr\u00e4zise Zahl kann stimmen. Das Warnsignal zeigt Ihnen, wo Sie die Minute aufwenden sollten, und diese Minute ist ein redaktioneller Richtwert, keine gemessene Zeit.<\/li>\n<li><strong>Die Quoten sind datiert.<\/strong> Abgesehen von den Gerichtsdaten und der Vectara-Tabelle stammen die Zahlen aus Studien, die zwischen 2023 und 2025 ver\u00f6ffentlicht wurden, und neuere Modelle haben bei mehreren Tests besser abgeschnitten, etwa GPT-4 gegen\u00fcber GPT-3.5 bei Literaturangaben. \u00dcbertragbar sind die Muster.<\/li>\n<li><strong>Lassen Sie das Modell sich nicht selbst pr\u00fcfen.<\/strong> Denselben Chat zu fragen \u201eIst diese Fundstelle echt?\u201c ist die schw\u00e4chste verf\u00fcgbare Pr\u00fcfung; Walters und Wilder berichten, dass ChatGPT diese Frage oft falsch beantwortet.<\/li>\n<li><strong>Dies ist eine allgemeine Information, keine Rechtsberatung.<\/strong> Die Gerichtsdaten dienen dazu, Fehlermuster zu untersuchen, nicht dazu, irgendjemandes Verhalten in einem Rechtsstreit anzuleiten.<\/li>\n<\/ul>\n<h2 id=\"hufig-gestellte-fragen\"><span class=\"ez-toc-section\" id=\"Haeufig-gestellte-Fragen\"><\/span>H\u00e4ufig gestellte Fragen<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><strong>Was ist das n\u00fctzlichste einzelne Warnsignal?<\/strong><br \/>\nWarnsignal 2, die echte Quelle, die das nicht sagt, weil es die Existenzpr\u00fcfung \u00fcbersteht. In den Gerichtsdaten enthielten 13,4 % der Entscheidungen \u00fcberhaupt keine erfundene Rechtsquelle, und in der Redaktionspr\u00fcfung betrafen die meisten erheblichen Genauigkeitsfehler Inhalte, die der Assistent selbst zitiert hatte.<\/p>\n<p><strong>Lohnt es sich, neuere Modelle noch auf diese Weise zu pr\u00fcfen?<\/strong><br \/>\nJa. Erfundene Literaturangaben fielen in einer Studie zwischen GPT-3.5 und GPT-4 von 55 % auf 18 %, und doch gab es 2026 rund 4,5 Gerichtsentscheidungen pro Tag, die KI-Fehler betrafen. Eine niedrigere Quote pro Antwort bedeutet nicht insgesamt weniger Fehler, solange die Nutzung weiter w\u00e4chst.<\/p>\n<p><strong>Macht die Bitte um Quellen eine Antwort sicherer?<\/strong><br \/>\nSie macht sie \u00fcberpr\u00fcfbar, und das ist etwas anderes. In der Redaktionspr\u00fcfung waren Quellenangaben die gr\u00f6\u00dfte Ursache erheblicher Probleme (31,3 % der Antworten), darunter Quellenangaben, die die Aussage nicht st\u00fctzten, und Links, die nicht existierten.<\/p>\n<p><strong>Kann ein zweites KI-Modell die Pr\u00fcfung \u00fcbernehmen?<\/strong><br \/>\nEs kann bei Warnsignal 10 helfen (die Antworten zweier Modelle vergleichen), aber \u00dcbereinstimmung zwischen Modellen ist keine \u00dcberpr\u00fcfung. Die Warnsignale 1-4 und 11 brauchen die Prim\u00e4rquelle, das Register oder eine Nachrechnung.<\/p>\n<p><strong>Warum sind Gerichtsf\u00e4lle f\u00fcr Nicht-Juristen relevant?<\/strong><br \/>\nGerichte halten fest, was sie finden, und zeigen so die Fehlermischung, die gew\u00f6hnliche Arbeit selten misst: erfundene Quellen, falsch gelesene echte Quellen und falsche Zitate, oft im selben Schriftsatz.<\/p>\n<h2 id=\"quellen\"><span class=\"ez-toc-section\" id=\"Quellen\"><\/span>Quellen<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<ol>\n<li>Walters, W. H. und Wilder, E. I. Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports 13, 14045, 2023.<\/li>\n<li>Charlotin, D. AI Hallucination Cases Database, CSV-Export heruntergeladen am 18. Oktober 2026 (zuletzt aktualisiert am 16. Oktober 2026), lizenziert unter CC BY 4.0.<\/li>\n<li>Charlotin, D. Hallucinations Case Database &#8211; FAQ. Newsletter Artificial Authority, 14. November 2025, mit \u00c4nderungen vom Februar 2026 (eigene Notizen des Datenbankautors).<\/li>\n<li>European Broadcasting Union und BBC. News Integrity in AI Assistants: An international PSM study. Oktober 2025, einschlie\u00dflich der Ergebnisse in Anhang 3.<\/li>\n<li>BBC. Representation of BBC News content in AI Assistants. Februar 2025.<\/li>\n<li>Vectara. Hallucination Leaderboard, GitHub-README, zuletzt aktualisiert am 16. Oktober 2026. Unternehmensangaben (kommerziell).<\/li>\n<li>Spracklen, J. und Kollegen (University of Texas at San Antonio, University of Oklahoma, Virginia Tech). We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs. arXiv 2406.10279, Version 3, M\u00e4rz 2025.<\/li>\n<li>Min, S., Krishna, K., Lyu, X. und Kollegen. FActScore: Fine-grained Atomic Evaluation of Factual Precision in Long Form Text Generation. arXiv 2305.14251, Version 2, Oktober 2023.<\/li>\n<li>Mallen, A., Asai, A., Zhong, V., Das, R., Khashabi, D. und Hajishirzi, H. When Not to Trust Language Models: Investigating Effectiveness of Parametric and Non-Parametric Memories. ACL 2023.<\/li>\n<li>OpenAI. OpenAI o3 and o4-mini System Card. 16. April 2025. Unternehmensangaben.<\/li>\n<li>Vu, T., Iyyer, M. und Kollegen (Google, University of Massachusetts Amherst, OpenAI). FreshLLMs: Refreshing Large Language Models with Search Engine Augmentation. arXiv 2310.03214, Version 2, November 2023.<\/li>\n<li>Sharma, M., Tong, M., Korbak, T. und Kollegen. Towards Understanding Sycophancy in Language Models. ICLR 2024.<\/li>\n<li>Fanous, A., Goldberg, J., Agarwal, A. und Kollegen. SycEval: Evaluating LLM Sycophancy. arXiv 2502.08177, Version 4, September 2025.<\/li>\n<li>Manakul, P., Liusie, A. und Gales, M. J. F. SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. arXiv 2303.08896, Version 3, Oktober 2023.<\/li>\n<li>Farquhar, S., Kossen, J., Kuhn, L. und Gal, Y. Detecting hallucinations in large language models using semantic entropy. Nature 630, 625-630, 2024.<\/li>\n<li>M\u00fcndler, N., He, J., Jenko, S. und Vechev, M. Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation. ICLR 2024.<\/li>\n<li>Dziri, N., Lu, X., Sclar, M. und Kollegen. Faith and Fate: Limits of Transformers on Compositionality. NeurIPS 2023.<\/li>\n<li>Zhou, K., Hwang, J. D., Ren, X. und Sap, M. Relying on the Unreliable: The Impact of Language Models&rsquo; Reluctance to Express Uncertainty. arXiv 2401.06730, Version 2, Juli 2024.<\/li>\n<li>Steyvers, M., Tejeda, H., Kumar, A. und Kollegen. What large language models know and what people think they know. Nature Machine Intelligence 7, 221-231, 2025.<\/li>\n<\/ol>\n<p><em>CEOtudent-Analysen: Tabelle 1 (berechnet aus der CSV-Datei der AI Hallucination Cases Database) und Tabelle 2 (nachgerechnet aus den Rohzahlen im Anhang von EBU und BBC), beide in calc.py; die Anteile sauberer Literaturangaben von 62 % und 26 %, berechnet aus den Prozentwerten von Walters und Wilder; sowie Median und Spanne von Vectara, zusammengefasst aus der Tabelle des Anbieters. Die Checkliste, die Warnsignalregel und ihre Beispiele sind CEOtudent-Redaktionsrahmen. Bewusst nicht verwendet: PersonQA-Werte f\u00fcr andere Modelle, die nur in der Presseberichterstattung auftauchen; NewsGuard-Zahlen, die im EBU-Bericht zitiert werden und deren Original nicht ge\u00f6ffnet wurde; die Spalte zum KI-Werkzeug in der Datenbank, die laut ihrem Betreiber nicht zeigt, welches Werkzeug einen Fehler verursacht hat; und eine Fehlerquote von 87 % bei echten Literaturangaben, die Bhattacharyya und Kollegen zugeschrieben wird und die nur in der Zusammenfassung von Walters und Wilder zu sehen war.<\/em><\/p>\n<hr>\n<p><em>Dieser Inhalt wurde nach eingehender Recherche mit Unterst\u00fctzung von KI zusammengestellt und vom CEOtudent-Redaktionsteam geschrieben und f\u00fcr die Ver\u00f6ffentlichung aufbereitet.<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"<p>In einer CEOtudent-Analyse von 2.083 Gerichtsentscheidungen in der AI Hallucination Cases Database enthielten 57,9 % mindestens einen Fehler, den eine einfache Pr\u00fcfung \u201eGibt es diese Quelle?\u201c nicht erkennen w\u00fcrde: eine falsch wiedergegebene echte Rechtsquelle, ein falsches Zitat oder veraltetes Recht. Eine Pr\u00fcfung durch 22 \u00f6ffentlich-rechtliche Medienorganisationen aus dem Jahr 2025 fand erhebliche Probleme in 45 % der Nachrichtenantworten von KI-Assistenten. Dieser Leitfaden macht aus der Forschung 12 beobachtbare Warnsignale, jedes mit einer schnellen Pr\u00fcfung, und eine Bewertungsregel daf\u00fcr, wann eine Antwort vollst\u00e4ndig \u00fcberpr\u00fcft werden muss.<\/p>\n","protected":false},"author":1,"featured_media":326598,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-326595","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry"],"_links":{"self":[{"href":"https:\/\/ceotudent.com\/de\/wp-json\/wp\/v2\/posts\/326595","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ceotudent.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ceotudent.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ceotudent.com\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/ceotudent.com\/de\/wp-json\/wp\/v2\/comments?post=326595"}],"version-history":[{"count":0,"href":"https:\/\/ceotudent.com\/de\/wp-json\/wp\/v2\/posts\/326595\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ceotudent.com\/de\/wp-json\/wp\/v2\/media\/326598"}],"wp:attachment":[{"href":"https:\/\/ceotudent.com\/de\/wp-json\/wp\/v2\/media?parent=326595"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ceotudent.com\/de\/wp-json\/wp\/v2\/categories?post=326595"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ceotudent.com\/de\/wp-json\/wp\/v2\/tags?post=326595"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}