<\/span><\/h2>\nDas ist kein Autorit\u00e4tsargument. Es ist der Hinweis darauf, dass jemand jahrelang an der schwierigen Version dieser Frage gearbeitet hat, mit Juristen auf beiden Seiten, und dass das Ergebnis \u00f6ffentlich ist.<\/p>\n
Artikel 22 DSGVO<\/strong> legt fest, dass eine betroffene Person das Recht hat, keiner ausschlie\u00dflich auf einer automatisierten Verarbeitung, einschlie\u00dflich Profiling, beruhenden Entscheidung unterworfen zu werden, die ihr gegen\u00fcber rechtliche Wirkung entfaltet oder sie in \u00e4hnlicher Weise erheblich beeintr\u00e4chtigt. Wo eine solche Verarbeitung zul\u00e4ssig ist, muss der Verantwortliche Schutzma\u00dfnahmen treffen, mindestens das Recht auf Eingreifen einer Person, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung. Aufsichtsbeh\u00f6rdliche Leitlinien nennen die automatische Ablehnung eines Online-Kreditantrags und Online-Einstellungsverfahren ohne menschliches Eingreifen als Beispiele der erfassten Wirkungen.<\/p>\nLesen Sie den Mechanismus statt der Rechtssprache. Ausl\u00f6ser ist nicht, dass das System ungenau sein k\u00f6nnte. Ausl\u00f6ser ist die Kombination aus zwei Dingen: Die Entscheidung f\u00e4llt ausschlie\u00dflich<\/em> die Maschine, und die Folge f\u00fcr die Person ist erheblich<\/em>. Genauigkeit kommt nicht vor. Ein hochgenaues System, das Ihren Kredit ohne jeden Menschen im Prozess ablehnt, ist immer noch genau das, worum es in dem Artikel geht.<\/p>\nDie EU-KI-Verordnung, Verordnung (EU) 2024\/1689,<\/strong> nimmt dieselbe Logik und wird konkret. Artikel 14 verlangt, dass Hochrisikosysteme so gestaltet sind, dass sie von nat\u00fcrlichen Personen wirksam beaufsichtigt werden k\u00f6nnen. Absatz 4 listet dann auf, was die aufsichtsf\u00fchrende Person tats\u00e4chlich k\u00f6nnen muss. Es ist, \u00fcberraschenderweise, eine der besseren Entscheidungschecklisten \u00fcberhaupt, und sie l\u00e4sst sich direkt auf den pers\u00f6nlichen Gebrauch \u00fcbertragen.<\/p>\nTabelle 1. Die f\u00fcnf Aufsichtsf\u00e4higkeiten aus Artikel 14 Absatz 4 der KI-Verordnung, \u00fcbersetzt in pers\u00f6nliche Entscheidungsfragen (redaktioneller Rahmen von CEOtudent, auf dem verifizierten Text der Verordnung (EU) 2024\/1689)<\/strong><\/p>\n\n\n\n| Artikel 14 Absatz 4 verlangt, dass die aufsichtsf\u00fchrende Person Folgendes kann<\/th>\n | Die pers\u00f6nliche Frage, die daraus wird<\/th>\n<\/tr>\n<\/thead>\n |
\n\n| (a) die einschl\u00e4gigen F\u00e4higkeiten und Grenzen des Systems angemessen verstehen und seinen Betrieb \u00fcberwachen, einschlie\u00dflich der Erkennung von Anomalien<\/td>\n | Wei\u00df ich tats\u00e4chlich, worin dieses Werkzeug schlecht ist, oder nur, worin es gut ist?<\/td>\n<\/tr>\n |
\n| (b) sich der m\u00f6glichen Neigung bewusst bleiben, dem Ergebnis automatisch oder \u00fcberm\u00e4\u00dfig zu vertrauen (Automatisierungsbias)<\/td>\n | W\u00fcrde ich merken, wenn ich jedes Mal zustimme?<\/td>\n<\/tr>\n |
\n| (c) das Ergebnis des Systems richtig interpretieren, unter Ber\u00fccksichtigung verf\u00fcgbarer Interpretationswerkzeuge<\/td>\n | Kann ich das Ergebnis gut genug lesen, um ein gutes von einem selbstsicher falschen zu unterscheiden?<\/td>\n<\/tr>\n |
\n| (d) in einer konkreten Situation entscheiden, das System nicht zu verwenden oder dessen Ergebnis zu missachten, zu \u00fcbergehen oder r\u00fcckg\u00e4ngig zu machen<\/td>\n | Habe ich eine echte Alternative, wenn ich ablehne, oder bin ich mit dem Fragen bereits festgelegt?<\/td>\n<\/tr>\n |
\n| (e) in den Betrieb eingreifen oder das System \u00fcber eine Stopptaste oder ein \u00e4hnliches Verfahren unterbrechen<\/td>\n | Kann ich das stoppen, bevor es jemanden au\u00dfer mir trifft?<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n Absatz 5 f\u00fcgt eine weitere Regel hinzu, die sich pers\u00f6nlich zu \u00fcbernehmen lohnt. Bei biometrischer Fernidentifizierung darf aufgrund der Identifizierung durch das System keine Ma\u00dfnahme und keine Entscheidung erfolgen, sofern die Identifizierung nicht von mindestens zwei nat\u00fcrlichen Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis gesondert \u00fcberpr\u00fcft und best\u00e4tigt wurde. Die Antwort des Rechts auf die riskanteste Kategorie ist kein besserer Algorithmus. Es ist ein zweiter Mensch.<\/p>\n Anhang III listet die Bereiche, die die Verordnung \u00fcberhaupt erst als hochriskant einstuft: Biometrie; kritische Infrastruktur; allgemeine und berufliche Bildung; Besch\u00e4ftigung und Personalmanagement; Zugang zu wesentlichen privaten und \u00f6ffentlichen Diensten einschlie\u00dflich Kreditw\u00fcrdigkeit und Versicherungspreisbildung; Strafverfolgung; Migration, Asyl und Grenzkontrolle; Rechtspflege und demokratische Prozesse. Systeme dieser Kategorien, die nach dem 2. August 2026 in Verkehr gebracht werden, fallen unter das Regime.<\/p>\n Sehen Sie sich an, was diese acht gemeinsam haben. Es sind nicht die schwierigsten Probleme. Manche sind rechnerisch trivial. Es sind die Entscheidungen, bei denen die betroffene Person das Ergebnis nicht leicht r\u00fcckg\u00e4ngig machen kann, die Begr\u00fcndung nicht ohne Weiteres \u00fcberpr\u00fcfen kann und sich nicht ausgesucht hat, Teil des Verfahrens zu sein. Das ist das Muster, und es ist das Muster, das Sie nutzen k\u00f6nnen.<\/p>\n <\/span>Die Variable, die alle falsch setzen, ist nicht die Genauigkeit<\/span><\/h2>\nHier das Argument daf\u00fcr, die Rahmung \u00fcber Umkehrbarkeit ernster zu nehmen als die \u00fcber Genauigkeit.<\/p>\n 2025 f\u00fchrte METR eine randomisierte kontrollierte Studie mit 16 erfahrenen Open-Source-Entwicklerinnen und -Entwicklern an 246 realen Aufgaben in ihren eigenen Repositorien durch, wobei Aufgaben zuf\u00e4llig mit oder ohne KI-Werkzeuge zugeteilt wurden. Vor der Studie prognostizierten die Teilnehmenden, KI werde sie um 24% beschleunigen. Nach der Arbeit sch\u00e4tzten sie die Beschleunigung auf 20%. Gemessen waren sie 19% langsamer. METR kennzeichnet das Ergebnis inzwischen als historisch und weist darauf hin, dass es aktuelle Werkzeuge oder Arbeitsweisen nicht zwangsl\u00e4ufig abbildet; dieser Vorbehalt ist ernst zu nehmen.<\/p>\n Die Zahl, die den Vorbehalt \u00fcberlebt, ist nicht die 19%. Es ist die L\u00fccke von 39 Punkten zwischen dem, was erfahrene Fachleute gemessen haben, und dem, was dieselben Fachleute in ihrem eigenen Feld \u00fcber eine gerade abgeschlossene Arbeit glaubten.<\/p>\n Diese L\u00fccke ist das ganze Problem genauigkeitsbasierter Delegationsregeln. Eine Regel wie “delegiere, wenn die KI zuverl\u00e4ssig genug ist” setzt voraus, dass Sie wissen, wie zuverl\u00e4ssig sie war. Die Menschen mit dem besten Zugang zu dieser Information lagen \u00fcber sich selbst um 39 Punkte daneben. Die KI-Verordnung benennt diesen Fehlermodus in Artikel 14 Absatz 4 Buchstabe b direkt und verlangt, dass Aufsichtspersonen sich der Neigung zur \u00dcbervertrauung bewusst bleiben. Die Regulierer bauten die Checkliste darum herum, weil sie auch der Selbsteinsch\u00e4tzung nicht vertrauten.<\/p>\n H\u00f6ren Sie also auf zu fragen, wie wahrscheinlich ein Fehler ist. Fragen Sie, was passiert, wenn er eintritt.<\/p>\n |