Kurz gesagt. Wer Arbeit an einen KI-Agenten delegiert, delegiert die Aufgabe, niemals die Verantwortung. Im Februar 2024 wies ein Tribunal in British Columbia das Argument einer Fluggesellschaft zurück, ihr Chatbot sei eine eigenständige Einheit, die für ihr eigenes Handeln verantwortlich sei, nannte dieses Vorbringen „bemerkenswert“ und erklärte das Unternehmen für sämtliche Informationen auf seiner Website verantwortlich. Das Prinzip ist einfach. Die Praxis in Organisationen ist es nicht. Die globale Studie von KPMG und der University of Melbourne aus dem Jahr 2025 mit 48.340 Personen ergab, dass 66 % der Beschäftigten sich auf KI-Ergebnisse verlassen hatten, ohne deren Richtigkeit zu prüfen, 56 % wegen KI Fehler bei ihrer Arbeit gemacht hatten und 57 % ihre KI-Nutzung verborgen oder KI-generierte Inhalte als eigene ausgegeben hatten. Nur zwei von fünf gaben an, dass es eine Richtlinie für den Einsatz generativer KI-Werkzeuge am Arbeitsplatz gibt. In einer separaten Umfrage, über die der AI Index der Stanford University berichtet, gaben 14 % der Befragten an, dass ihre Organisation eigene Rollen für KI-Governance eingerichtet hat. Die Regeln beschreiben bereits, wie eine funktionierende Verantwortungskarte aussieht: Die KI-Verordnung der EU verpflichtet Betreiber von Hochrisiko-Systemen, die menschliche Aufsicht Personen zu übertragen, die über die dafür nötige Kompetenz, Ausbildung und Befugnis verfügen, und das NIST AI Risk Management Framework verlangt von Organisationen, zu dokumentieren, wer in Mensch-KI-Konstellationen wofür zuständig ist. Dieser Beitrag verbindet das beobachtete Verhalten mit diesen Anforderungen und macht aus der Lücke eine Neuordnung, die Führungskräfte auf jedes Team anwenden können, das mit Agenten arbeitet.
Das Argument, das nie wieder vorgebracht werden sollte
Der Fall ist klein, was den Betrag angeht, und groß, was das Prinzip betrifft. Ein Kunde fragte den Chatbot auf der Website einer Fluggesellschaft nach Tarifen für Reisen im Trauerfall, erhielt falsche Informationen darüber, wie sich nach der Reise eine Erstattung beantragen lässt, und verließ sich darauf. Als der Kunde die Differenz einforderte, argumentierte die Fluggesellschaft im Kern, der Chatbot sei eine eigenständige rechtliche Einheit, die für ihr eigenes Handeln verantwortlich sei.
Das Civil Resolution Tribunal von British Columbia bezeichnete dies in Moffatt v. Air Canada, 2024 BCCRT 149, als „ein bemerkenswertes Vorbringen“. Das zuständige Mitglied des Tribunals schrieb, ein Chatbot habe zwar eine interaktive Komponente, sei aber dennoch Teil der Website des Unternehmens, und das Unternehmen sei für alle Informationen auf seiner Website verantwortlich, unabhängig davon, ob sie von einer statischen Seite oder von einem Chatbot stammen. Das Tribunal kam zu dem Ergebnis, dass die Fluggesellschaft nicht mit angemessener Sorgfalt dafür gesorgt hatte, dass ihr Chatbot korrekte Angaben macht, und ordnete die Zahlung von insgesamt 812,02 $ an, bestehend aus 650,88 $ Schadensersatz zuzüglich Zinsen für die Zeit vor der Entscheidung und Tribunalgebühren.
Es handelt sich um eine einzelne Entscheidung eines Tribunals für Bagatellstreitigkeiten in einer kanadischen Provinz, und sie bindet anderswo niemanden. Ihr Wert liegt darin, dass sie in einfacher Sprache das Prinzip ausspricht, das jede Führungskraft, die Agenten einsetzt, verinnerlichen muss: Das Werkzeug, das das Ergebnis erzeugt hat, ist nicht die Partei, die dafür einsteht.
Das Problem ist, dass die meisten Teams ihre Arbeitsabläufe nicht um dieses Prinzip herum neu aufgebaut haben. Die Verantwortungskarte, mit der sie arbeiten, wurde für eine Welt gezeichnet, in der jede Aufgabe von einem Menschen erledigt wurde, den man nach dem Warum fragen konnte.
Warum die alte Verantwortungskarte nicht mehr funktioniert
Die meisten Teams arbeiten mit irgendeiner Form von Verantwortungsmatrix, ob formell oder nicht: Jemand erledigt die Arbeit, jemand ist für das Ergebnis verantwortlich, jemand wird konsultiert, jemand wird informiert. Das Modell setzt voraus, dass die Person, die die Arbeit erledigt, sie auch erklären kann, bemerkt, wenn etwas schiefläuft, und dann aufhört.
Ein KI-Agent hebelt diese Annahme an drei Stellen zugleich aus.
- Der Ausführende kann nicht zur Rechenschaft gezogen werden. Ein Agent kann eine Aufgabe erledigen, aber er kann nicht zur Verantwortung gezogen, sanktioniert oder aufgefordert werden, für eine Folge einzustehen. Die „Responsible“-Zelle der Matrix wird von etwas ausgefüllt, das keine Verantwortung tragen kann.
- Aus Prüfung wird bloße Freigabe. Wenn das Ergebnis flüssig klingt, verkommt die Kontrolle leicht zum Abzeichnen. Die Forschung zum Automation Bias, die wir in Menschliche Aufsicht by Design behandelt haben, beschreibt genau diese Neigung, sich zu stark auf automatisierte Ergebnisse zu verlassen.
- Die Arbeit wird unsichtbar. Wenn Menschen Agenten nutzen, ohne es zu sagen, zeigt die Karte der Führungskraft eine Person bei einer Aufgabe, die in Wahrheit ein System erledigt hat. Niemand kann ein Risiko steuern, das er nicht sieht.
Zu jedem dieser Punkte liegen inzwischen Daten vor.
Die Verantwortungslücke in Organisationen: verifizierte Daten
Verifizierte Daten: wie Menschen KI bei der Arbeit tatsächlich nutzen und wie Organisationen sie steuern
| Kennzahl | Wert | Quelle |
|---|---|---|
| Stichprobe | 48.340 Personen in 47 Ländern; 32.352 Beschäftigte beantworteten die Fragen zur KI-Nutzung bei der Arbeit | KPMG und University of Melbourne, 2025 |
| Beschäftigte, die KI bei der Arbeit bewusst und regelmäßig nutzen | 58 % | KPMG und University of Melbourne, 2025 |
| Beschäftigte, die sich auf KI-Ergebnisse verlassen haben, ohne die gelieferten Informationen zu prüfen | 66 % | KPMG und University of Melbourne, 2025 |
| Beschäftigte, denen wegen KI Fehler bei der Arbeit unterlaufen sind | 56 % | KPMG und University of Melbourne, 2025 |
| Beschäftigte, die ihre KI-Nutzung verborgen oder KI-generierte Inhalte als eigene ausgegeben haben | 57 % | KPMG und University of Melbourne, 2025 |
| Beschäftigte, die angeben, dass es eine Richtlinie für den Einsatz generativer KI-Werkzeuge gibt | Zwei von fünf | KPMG und University of Melbourne, 2025 |
| Organisationen mit eigenen Rollen für KI-Governance | 14 % der Befragten | McKinsey-Umfrage, zitiert im Stanford HAI AI Index 2025 |
| KI-bezogene Vorfälle, gemeldet an die AI Incident Database, 2024 | 233, ein Plus von 56,4 % gegenüber 2023 | Stanford HAI AI Index 2025 |
Lesehinweise. „Regelmäßige“ Nutzung umfasst in der KPMG-Studie auch Personen, die KI alle paar Monate nutzen, nicht nur tägliche Nutzer. Die Werte von 66 % und 56 % zählen alle, die das Verhalten zumindest selten angegeben haben; der Anteil derjenigen, die es gewohnheitsmäßig tun, ist kleiner. Die 57 % sind ein kombiniertes Maß aus zwei getrennten Fragen. Die Zahl der Vorfälle beruht auf Medienberichten und dürfte die tatsächliche Zahl unterschätzen. Diese Einschränkungen machen die Zahlen präziser, aber nicht weniger besorgniserregend: Die Verhaltensweisen sind weit verbreitet, auch wenn sie nicht universell sind.
Legt man die Zeilen nebeneinander, wird die Lücke deutlich. Die meisten Beschäftigten nutzen KI bereits, eine Mehrheit hat ihre Ergebnisse ungeprüft verwendet, eine Mehrheit hat ihretwegen Fehler gemacht, eine Mehrheit hat diese Nutzung irgendwann verborgen, und die meisten arbeiten in Organisationen, die ihnen weder die Regeln erklärt noch festgelegt haben, wer das Risiko verantwortet.
Was die Regelwerke bereits verlangen
Führungskräfte müssen keine Verantwortungsstruktur von Grund auf erfinden. Zwei vielzitierte Regelwerke beschreiben bereits eine.
Die KI-Verordnung der EU. Die Verordnung (EU) 2024/1689 (KI-Verordnung) legt Betreibern von Hochrisiko-KI-Systemen in Artikel 26 spezifische Pflichten auf. Betreiber müssen die menschliche Aufsicht natürlichen Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen und die erforderliche Unterstützung erhalten (Artikel 26 Absatz 2). Sie müssen den Betrieb des Systems auf Grundlage der Betriebsanleitung überwachen und die Nutzung aussetzen sowie den Anbieter und die Behörden informieren, wenn sie Grund zu der Annahme haben, dass das System ein Risiko darstellt (Artikel 26 Absatz 5). Sie müssen die vom System erzeugten Protokolle, soweit diese ihrer Kontrolle unterliegen, mindestens sechs Monate aufbewahren, sofern andere Rechtsvorschriften nichts anderes vorsehen (Artikel 26 Absatz 6). Arbeitgeber müssen die Arbeitnehmervertretungen und die betroffenen Beschäftigten informieren, bevor sie ein Hochrisiko-System am Arbeitsplatz in Betrieb nehmen (Artikel 26 Absatz 7).
Zwei Termine sind entscheidend. Die ändernde Verordnung (EU) 2026/1744, Teil des Digital-Omnibus der Kommission, trat am 27. Juli 2026 in Kraft und verschob den Geltungsbeginn dieser Hochrisiko-Pflichten: Sie gelten nun ab dem 2. Dezember 2027 für Systeme, die nach Anhang III als hochriskant eingestuft sind, wozu Anwendungen im Beschäftigungsbereich gehören, und ab dem 2. August 2028 für Systeme, die unter die Produktvorschriften des Anhangs I fallen. Dieselbe Änderung fasste die Pflicht zur KI-Kompetenz in Artikel 4 neu, sodass Anbieter und Betreiber Maßnahmen ergreifen müssen, um die KI-Kompetenz ihres Personals zu fördern, ohne verpflichtet zu sein, bei einzelnen Personen ein bestimmtes Niveau zu gewährleisten.
Die meisten Büro-Agenten, die zusammenfassen, entwerfen und recherchieren, sind keine Hochrisiko-Systeme im Sinne der Verordnung, sodass Artikel 26 die meisten Leserinnen und Leser rechtlich nicht binden wird. Er ist dennoch die sorgfältigste verfügbare Beschreibung einer funktionierenden Aufsichtsrolle und ein sinnvoller Gestaltungsmaßstab für jedes Team.
Das NIST AI Risk Management Framework 1.0. Seine GOVERN-Funktion ist bei Rollen eindeutig. GOVERN 2.1 verlangt, dass Rollen, Zuständigkeiten und Kommunikationswege für das Management von KI-Risiken dokumentiert und für Einzelpersonen und Teams klar sind. GOVERN 2.3 verlangt, dass die Unternehmensleitung die Verantwortung für Entscheidungen über KI-Risiken übernimmt. GOVERN 3.2 verlangt Richtlinien und Verfahren, die Rollen und Zuständigkeiten für Mensch-KI-Konstellationen und für die Aufsicht über KI-Systeme festlegen und voneinander abgrenzen.
Keines der beiden Regelwerke sagt „die KI ist verantwortlich“. Beide sagen dasselbe wie das Tribunal: Eine benannte menschliche Struktur muss das Ergebnis verantworten.
Verhalten und Anforderung zusammenführen
CEOtudent-Synthese: wo beobachtetes Verhalten die Verantwortungsstruktur aufbricht
| Beobachtetes Verhalten | Anteil der Beschäftigten | Verantwortungselement, das dadurch aufbricht | Referenzanforderung | Korrektur durch die Neuordnung |
|---|---|---|---|---|
| Sich auf KI-Ergebnisse verlassen, ohne sie zu prüfen | 66 % | Kein benannter Prüfer mit der Befugnis zur Zurückweisung | KI-Verordnung Art. 26 Abs. 2; NIST GOVERN 2.1 | Für jede Klasse von Agenten-Ergebnissen einen Prüfer benennen, getrennt von der Person, die den Agenten gebrieft hat |
| Fehler bei der Arbeit wegen KI | 56 % | Keine Überwachungsschleife, niemand verantwortlich für die Eskalation | KI-Verordnung Art. 26 Abs. 5 | Ein Fehlerprotokoll führen und benennen, wer über das Pausieren eines Agenten-Workflows entscheidet |
| KI-Nutzung verbergen oder KI-Ergebnisse als eigene Arbeit ausgeben | 57 % | Die Delegation ist unsichtbar, das Risiko bleibt ungesteuert | KI-Verordnung Art. 26 Abs. 7 (Transparenz am Arbeitsplatz) | Die Offenlegung der Agenten-Nutzung zur Teamnorm machen, nicht zum Geständnis |
| Arbeiten ohne Richtlinie für den Einsatz generativer KI | Etwa drei von fünf berichten von keiner | Rollen und Grenzen nicht dokumentiert | NIST GOVERN 2.1 und 3.2 | Pro Agenten-Workflow eine einseitige Verantwortungskarte veröffentlichen |
| Eigene Governance-Rollen vorhanden | 14 % der Befragten | Niemand auf Leitungsebene verantwortet das KI-Risiko | NIST GOVERN 2.3 | Pro Workflow einen Verantwortlichen benennen, auf einer Ebene mit der Befugnis, den Workflow zu stoppen |
| Aktionen von Agenten werden nicht aufgezeichnet | In diesen Studien nicht erhoben | Keine Beweisspur, wenn etwas schiefgeht | KI-Verordnung Art. 26 Abs. 6, Protokolle für mindestens sechs Monate | Ausführungsprotokolle für Agenten-Workflows führen, die Kunden, Geld oder Personalentscheidungen berühren |
Verhaltensanteile aus KPMG und University of Melbourne, 2025, mit Ausnahme der Zeile zu Governance-Rollen, die Umfrageteilnehmende aus den von Stanford HAI zitierten McKinsey-Daten wiedergibt. „Etwa drei von fünf“ leitet CEOtudent aus dem Befund des Berichts ab, dass nur zwei von fünf angeben, eine Richtlinie regle die Nutzung. Die Zuordnung jedes Verhaltens zu einer Anforderung und einer Korrektur ist die redaktionelle Synthese von CEOtudent; die Regelwerke beziehen sich nicht auf diese Umfrageergebnisse.
Die Neuordnung der Verantwortung
Die Neuordnung ersetzt die einzelne „Responsible“-Zelle, die jetzt ein Agent ausfüllt, durch eine Reihe menschlicher Rollen, die gemeinsam dafür sorgen, dass das Ergebnis verantwortet wird. In einem kleinen Team kann eine Person mehrere Rollen innehaben. Die Regel lautet: Jede Rolle hat einen Namen.
Redaktioneller CEOtudent-Rahmen: die Neuordnung der Verantwortung für Arbeit mit Agenten
| Phase | Alte Karte (ein Mensch erledigt die Aufgabe) | Neu zugeordnete Rolle | Was die Rolleninhaber können müssen | Nicht an den Agenten delegierbar, weil |
|---|---|---|---|---|
| Briefing | Der Ausführende interpretiert den Auftrag | Delegierende Person | Ziel, Rahmenbedingungen, Quellen und die Bedeutung von „fertig“ festlegen | Der Agent führt das Briefing aus, das er bekommt; ein vages Briefing ist ein menschliches Versäumnis |
| Ausführung | Der Ausführende erledigt die Arbeit | Agent (Werkzeug) | Die Aufgabe innerhalb des Briefings erledigen | Die Ausführung ist die einzige Phase, die der Agent übernehmen kann |
| Prüfung | Der Ausführende kontrolliert sich selbst | Prüfer | Das Ergebnis an der Quelle prüfen, nicht an seiner sprachlichen Glätte; es zurückweisen | Unabhängiges Urteil ist die Kontrolle; der Agent kann sich nicht selbst prüfen |
| Freigabe | Die Führungskraft genehmigt | Verantwortlicher (Owner) | Die Folgen tragen, wenn das Ergebnis hinausgeht | Verantwortung liegt bei einer Person oder Organisation, nie beim Werkzeug |
| Überwachung | Probleme treten über den Ausführenden zutage | Beobachter | Fehlermuster über mehrere Durchläufe beobachten, das Protokoll führen | Muster zeigen sich erst über viele Ergebnisse hinweg |
| Stopp | Der Ausführende hört auf, wenn er unsicher ist | Stopp-Befugnis | Den Workflow pausieren oder abschalten, ohne um Erlaubnis zu fragen | Ein Agent erkennt nicht verlässlich, wann er aufhören sollte |
| Erklärung | Der Ausführende erklärt, was passiert ist | Verantwortlicher (Owner), anhand des Protokolls | Rekonstruieren, was der Agent getan hat und warum das Ergebnis freigegeben wurde | „Der Agent war es“ ist genau die Antwort, die das Tribunal zurückgewiesen hat |
Dieser Rahmen ist die redaktionelle Synthese von CEOtudent und stützt sich auf die Aufsichtsrollen in den Artikeln 14 und 26 der KI-Verordnung sowie auf NIST AI RMF GOVERN 2 und 3. Er ist ein Gestaltungsmuster, keine rechtliche Compliance-Checkliste.
Drei Gestaltungsregeln sorgen dafür, dass die Neuordnung funktioniert:
- Prüfer und Delegierende Person sollten bei folgenreichen Ergebnissen nicht dieselbe Person sein. Wer das Briefing geschrieben hat, sieht, was er zu sehen erwartet. Bei Arbeit mit geringer Tragweite kann eine Person beide Rollen innehaben; bei allem, was einen Kunden, einen Vertrag oder eine Entscheidung über einen Menschen berührt, sollten die Rollen getrennt sein.
- Der Verantwortliche (Owner) muss befugt sein, den Workflow zu stoppen. Die Formulierung der KI-Verordnung ist präzise: Kompetenz, Ausbildung und Befugnis. Ein Verantwortlicher, der einen Agenten nicht pausieren kann, ist kein Verantwortlicher.
- Offenlegung wird eingeplant, nicht kontrolliert. Wenn die Zahl von 57 % Führungskräften überhaupt etwas sagt, dann dies: Menschen verbergen KI-Nutzung, wenn sie unsicher sind, ob sie erlaubt ist. Teams, die die Nutzung von Agenten standardmäßig sichtbar machen, sehen ihr tatsächliches Risiko; Teams, die das nicht tun, sehen eine Karte von Arbeit, die es so nicht mehr gibt.
Zu den vorgelagerten Fähigkeiten, auf denen diese Neuordnung aufbaut, lesen Sie Wie man an einen KI-Agenten delegiert zum Schreiben des Briefings, Das KI-Management-Playbook zur Bewertung von Ergebnissen und Sollten Sie die KI entscheiden lassen? zu der Frage, welche Entscheidungen überhaupt nie delegiert werden sollten.
Drei Fehlermuster, auf die Sie achten sollten
„Der Agent war es.“ Ein Fehler wird zurückverfolgt, und die Erklärung endet beim Werkzeug. Das ist der Fall des Tribunals im Kleinen. Wenn Ihre Nachbetrachtung eines Vorfalls mit dem Namen eines Systems statt mit dem Namen einer Rolle endet, fehlt in der Neuordnung ein Verantwortlicher (Owner).
Das Durchwinken. Ein Prüfer existiert auf dem Papier, genehmigt aber fast alles, weil sich das Ergebnis gut liest und die Warteschlange lang ist. Ein nützliches Signal ist die Ablehnungsquote: Ein Prüfschritt, der fast nie etwas zurückweist, prüft entweder ungewöhnlich verlässliche Arbeit oder prüft nicht wirklich.
Die verwaiste Kette. Das Ergebnis eines Agenten wird zur Eingabe eines anderen Agenten, und kein Mensch verantwortet das Gesamtergebnis. Jeder einzelne Schritt wirkt beaufsichtigt; das Ganze ist es nicht. Weisen Sie die Verantwortung dem Ergebnis zu, nicht den einzelnen Schritten.
Eine 30-Tage-Neuordnung für ein Team
- Woche 1: Bestandsaufnahme. Listen Sie jede wiederkehrende Aufgabe auf, bei der ein Agent oder ein KI-Werkzeug inzwischen Ergebnisse erzeugt, die das Team verlassen. Fragen Sie die Menschen direkt und machen Sie klar, dass Offenlegung keine Sanktionen nach sich zieht.
- Woche 2: Rollen benennen. Halten Sie für jeden Workflow die Delegierende Person, den Prüfer, den Verantwortlichen (Owner) und die Stopp-Befugnis schriftlich fest. Wo bei folgenreicher Arbeit dieselbe Person alle vier Rollen innehat, trennen Sie zumindest den Prüfer ab.
- Woche 3: Prüfstandard festlegen. Definieren Sie für jede Ergebnisklasse, woran der Prüfer prüft, und beginnen Sie, Zurückweisungen und Fehler zu protokollieren.
- Woche 4: Eine Übung durchführen. Wählen Sie einen Workflow und spielen Sie einen hypothetischen Fehler von Anfang bis Ende durch: Wer bemerkt ihn, wer pausiert den Workflow, wer erklärt ihn, welches Protokoll zeigt, was passiert ist. Beheben Sie jeden Schritt, dem kein Name zugeordnet war.
Das Ergebnis passt auf eine Seite pro Workflow. Diese Seite ist zugleich das Dokument, das GOVERN 2.1 des NIST-Rahmenwerks beschreibt, und die Art von Aufsichtszuweisung, die Artikel 26 Absatz 2 der KI-Verordnung von Betreibern von Hochrisiko-Systemen verlangt.
Der CEO und der Student
Die Sicht des CEO. Ein CEO kann Verantwortung nicht an eine nachgeordnete Person delegieren und an Software erst recht nicht. Was ein CEO tun kann, ist, eine Struktur zu gestalten, in der jedes folgenreiche Ergebnis einen benannten Verantwortlichen hat, der kompetent, geschult und befugt ist, es zu stoppen. Agenten machen diese Gestaltungsaufgabe wichtiger, nicht unwichtiger, weil sie die Zahl der Ergebnisse eines Teams vervielfachen, ohne die Zahl der Menschen zu vervielfachen, die dafür einstehen können.
Die Sicht des Studenten. Die Prüfrolle ist eine Fähigkeit, und wie jede Fähigkeit verkümmert sie, wenn sie nicht genutzt wird. Teams, die Agenten-Ergebnisse weiterhin an Quellen prüfen, bewahren sich das Urteilsvermögen, das Prüfen überhaupt erst möglich macht. Teams, die damit aufhören, verlieren es und bemerken den Verlust erst, wenn ein Fehler bereits hinausgegangen ist. Student zu bleiben heißt, jedes zurückgewiesene Ergebnis als Information darüber zu behandeln, wo der Agent, das Briefing oder der Prüfer versagt hat.
Häufig gestellte Fragen
Wenn ein KI-Agent einen Fehler macht, wer ist dann verantwortlich?
Die Organisation und die Menschen, die den Agenten eingesetzt und das Ergebnis freigegeben haben, nicht das Werkzeug. Die Entscheidung Moffatt v. Air Canada wies die Vorstellung zurück, ein Chatbot sei für seine eigenen Aussagen verantwortlich. Es handelt sich um eine einzelne Tribunalentscheidung und nicht um einen über Rechtsordnungen hinweg bindenden Präzedenzfall, und dies ist keine Rechtsberatung, doch ihre Begründung entspricht der Logik der KI-Verordnung der EU und des NIST-Rahmenwerks.
Gilt die KI-Verordnung der EU für die Agenten, die mein Team nutzt?
Artikel 26 gilt für Betreiber von Hochrisiko-KI-Systemen, etwa von Systemen, die in Anhang III aufgeführt sind, zu dem bestimmte Anwendungen im Beschäftigungsbereich gehören. Die meisten Agenten, die zum Entwerfen, Zusammenfassen oder Recherchieren genutzt werden, sind nicht hochriskant. Nach der Digital-Omnibus-Änderung, die seit dem 27. Juli 2026 in Kraft ist, gelten die Hochrisiko-Pflichten nach Anhang III ab dem 2. Dezember 2027. Die Pflicht zur KI-Kompetenz in Artikel 4 gilt seit dem 2. Februar 2025 und wurde dahingehend geändert, dass sie Maßnahmen zur Förderung der KI-Kompetenz verlangt.
Sollten Beschäftigte offenlegen, wenn sie KI für ihre Arbeit nutzen?
Aus Sicht der Verantwortung: ja. Unsichtbare Delegation bedeutet, dass das Bild der Führungskraft davon, wer was getan hat, falsch ist, und ein Risiko, das man nicht sieht, lässt sich nicht steuern. Die KPMG-Studie ergab, dass 57 % der Beschäftigten KI-Nutzung verborgen oder KI-Ergebnisse als eigene ausgegeben hatten, was meist eher auf unklare Regeln als auf böse Absicht hindeutet.
Braucht jedes KI-Ergebnis eine zweite prüfende Person?
Nein. Passen Sie die Prüfung an die Tragweite an. Interne Entwürfe kann die Person prüfen, die den Agenten gebrieft hat. Ergebnisse, die Kunden erreichen, Geld betreffen oder in Entscheidungen über Menschen einfließen, sollten einen Prüfer haben, der nicht die Delegierende Person ist.
Wie sieht die Minimalversion davon aus?
Eine Seite pro Agenten-Workflow, auf der der Verantwortliche (Owner), der Prüfer und die Person benannt sind, die den Workflow stoppen kann, dazu ein einfaches Fehlerprotokoll. Das deckt den Kern dessen ab, was beide Regelwerke verlangen.
Wie lange sollten Agenten-Protokolle aufbewahrt werden?
Bei Hochrisiko-Systemen im Sinne der KI-Verordnung der EU müssen Betreiber automatisch erzeugte Protokolle, die ihrer Kontrolle unterliegen, mindestens sechs Monate aufbewahren, sofern andere Rechtsvorschriften nichts anderes vorsehen. Bei gewöhnlichen Workflows sollten Sie Protokolle so lange aufbewahren, dass sich jedes Ergebnis rekonstruieren lässt, das noch angefochten werden könnte.
Quellen
Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates (KI-Verordnung), Artikel 4, 14, 26 und 113, Amtsblatt der Europäischen Union, 12. Juli 2024, sowie die konsolidierte Fassung vom 27. Juli 2026.
Verordnung (EU) 2026/1744 zur Änderung der Verordnung (EU) 2024/1689 (Digital-Omnibus zu KI), Amtsblatt der Europäischen Union, 24. Juli 2026.
National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, Januar 2023, GOVERN-Kategorien 2 und 3.
Nicole Gillespie, Steven Lockey, Tabi Ward, Alexandria Macdade und Gerard Hassed, Trust, attitudes and use of artificial intelligence: A global study 2025, The University of Melbourne und KPMG, 2025.
Moffatt v. Air Canada, 2024 BCCRT 149, Civil Resolution Tribunal von British Columbia, Entscheidung vom 14. Februar 2024.
Stanford Institute for Human-Centered Artificial Intelligence, Artificial Intelligence Index Report 2025, Kapitel 3, Responsible AI.
Dieser Inhalt wurde nach eingehender Recherche mit Unterstützung von KI zusammengestellt und vom CEOtudent-Redaktionsteam geschrieben und für die Veröffentlichung aufbereitet.
This post is also available in:
