Kurz gefasst: Die Frage “wie viel muss ich über KI verstehen?” ist keine Frage persönlichen Ehrgeizes mehr, sondern teilweise eine rechtliche Spezifikation. Artikel 4 der KI-Verordnung der EU, seit dem 2. Februar 2025 in Kraft, verpflichtet Anbieter und Betreiber von KI-Systemen dazu, ein ausreichendes Maß an KI-Kompetenz bei ihrem Personal und allen Personen sicherzustellen, die in ihrem Auftrag Systeme bedienen. Der übrige Teil der Verordnung wurde am 2. August 2026 allgemein anwendbar. Die Verordnung definiert KI-Kompetenz in Artikel 3 Nummer 56 als die Fähigkeiten, Kenntnisse und das Verständnis, die einen informierten Einsatz von KI-Systemen sowie ein Bewusstsein für Chancen, Risiken und mögliche Schäden ermöglichen. Artikel 14 geht weiter und listet auf, was eine zur Aufsicht über ein Hochrisikosystem bestimmte Person können muss: die Fähigkeiten und Grenzen des Systems verstehen, dem Automatisierungsbias widerstehen, die Ausgabe richtig interpretieren, sich gegen die Nutzung entscheiden und das System anhalten. Unabhängig davon gliedert das KI-Risikomanagement-Rahmenwerk des NIST die Risikoarbeit in vier Funktionen und benennt sieben Merkmale vertrauenswürdiger KI. Keines der beiden Dokumente wurde für die nicht-technische Fachkraft geschrieben, doch zusammen gelesen beschreiben sie genau diese. Nachfolgend die Verbindung: eine geprüfte Tabelle der Bestimmungen, die gewöhnliche Beschäftigte bereits binden, und eine Matrix der Betreiberkompetenz, die diese Pflichten in fünf überprüfbare Kompetenzen übersetzt.
Es gibt eine vertraute Textgattung, die verspricht, Sie KI-kompetent zu machen, und Ihnen dann ein Glossar reicht. Token, Parameter, Trainingsdaten, Halluzination, Feinabstimmung. Sie legen den Text aus der Hand und kennen mehr Wörter, verfügen aber über keine neue Fähigkeit.
Der Glossar-Ansatz scheitert aus einem strukturellen Grund. Vokabular brauchen Sie, um einem Gespräch über KI-Systeme folgen zu können. Kompetenz brauchen Sie, um für eine Entscheidung einstehen zu können, die eines dieser Systeme beeinflusst hat. Das sind verschiedene Dinge, und von Menschen in gewöhnlichen Berufen wird inzwischen nur noch das Zweite verlangt.
Was sich geändert hat: Die Frage hat eine externe Antwort bekommen. Regulierungsbehörden, die entschieden haben, dass KI-Systeme weitgehend von Nichtfachleuten bedient werden, mussten aufschreiben, wozu diese Nichtfachleute in der Lage sein müssen. Diese niedergeschriebene Antwort ist nicht vollständig und sie ist kein Lehrplan. Aber sie ist die erste Spezifikation eines technischen Mindestverständnisses, die nicht von jemandem stammt, der Ihnen einen Kurs verkaufen will.
Die Bestimmungen, die gewöhnliche Beschäftigte bereits binden
Die meiste Berichterstattung über die KI-Verordnung konzentriert sich auf die Verbote und auf Pflichten für Modellanbieter. Beides ist wichtig, und keines davon ist der Teil, der eine Marketingleiterin, einen Recruiter oder eine Finanzanalystin betrifft. Die Teile, die das tun, sind enger gefasst, und einer davon ist älter, als die meisten annehmen.
Die folgende Tabelle gibt die Bestimmungen so wieder, wie sie im Amtsblatt-Text der Verordnung (EU) 2024/1689 stehen, mit den in Artikel 113 festgelegten Anwendungsdaten.
| Bestimmung | Was sie verlangt | Wen sie bindet | Anwendbar ab |
|---|---|---|---|
| Artikel 4 (KI-Kompetenz) | Maßnahmen ergreifen, um nach besten Kräften ein ausreichendes Maß an KI-Kompetenz des Personals und anderer Personen sicherzustellen, die in ihrem Auftrag KI-Systeme betreiben, unter Berücksichtigung von Vorkenntnissen, Erfahrung, Ausbildung und Nutzungskontext | Anbieter und Betreiber von KI-Systemen | 2. Februar 2025 (Kapitel I) |
| Artikel 3 Nr. 56 (Definition) | Definiert KI-Kompetenz als Fähigkeiten, Kenntnisse und Verständnis für einen informierten Einsatz sowie das Bewusstsein für Chancen, Risiken und mögliche Schäden | Definitorisch; rahmt Artikel 4 | 2. Februar 2025 (Kapitel I) |
| Artikel 5 (verbotene Praktiken) | Listet KI-Praktiken auf, die weder in Verkehr gebracht noch in Betrieb genommen noch überhaupt verwendet werden dürfen | Alle Akteure | 2. Februar 2025 (Kapitel II) |
| Artikel 14 (menschliche Aufsicht) | Hochrisikosysteme müssen von natürlichen Personen wirksam beaufsichtigt werden können; die aufsichtsführende Person muss Fähigkeiten und Grenzen verstehen, gegenüber Automatisierungsbias wachsam bleiben, die Ausgabe richtig deuten, die Nutzung ablehnen und das System unterbrechen können | Anbieter, mit von Betreibern umzusetzenden Maßnahmen | 2. August 2026 |
| Artikel 50 (Transparenz) | Personen müssen darüber informiert werden, dass sie mit einem KI-System interagieren, sofern dies nicht offensichtlich ist; synthetische Audio-, Bild-, Video- und Textausgaben müssen maschinenlesbar gekennzeichnet werden | Anbieter und Betreiber bestimmter Systeme | 2. August 2026 (Kapitel IV) |
| Anhang III Nummer 4 (Beschäftigung) | Stuft als hochriskant ein: KI für Einstellung und Auswahl, einschließlich gezielter Stellenanzeigen, Filterung von Bewerbungen und Bewertung von Bewerbern, sowie KI für Entscheidungen über Beförderung oder Beendigung, Aufgabenzuweisung und Überwachung oder Bewertung von Leistung | Bestimmt, welche Arbeitsplatzwerkzeuge Hochrisikopflichten tragen | 2. August 2026 |
| Weg über Artikel 6 Absatz 1 | Hochrisiko-Einstufung für KI-Systeme, die Sicherheitsbauteile von Produkten nach Harmonisierungsrechtsvorschriften der Union sind | In Produkte eingebettete Systeme | 2. August 2027 |
Zwei Punkte in dieser Tabelle verdienen mehr Aufmerksamkeit, als sie üblicherweise bekommen.
Der erste ist das Datum bei Artikel 4. KI-Kompetenz wurde achtzehn Monate vor dem Wirksamwerden des Hauptteils der Verordnung zur Pflicht. Sie steht in Kapitel I, den allgemeinen Bestimmungen, und Kapitel I galt ab dem 2. Februar 2025. Organisationen, die mit dem Nachdenken über Personalkompetenz bis August 2026 gewartet haben, waren bereits spät dran.
Der zweite ist Anhang III Nummer 4. Die Hochrisikokategorie wird gemeinhin als etwas Exotisches vorgestellt: Medizinprodukte, biometrische Identifizierung, kritische Infrastruktur. Sie umfasst aber auch das Filtern von Bewerbungen und das Überwachen der Leistung von Beschäftigten. Das ist gewöhnliche Personalsoftware. Es bedeutet, dass die Person, die am ehesten als menschliche Aufsicht über ein Hochrisiko-KI-System bestimmt wird, keine Ingenieurin ist. Es ist eine Recruiterin.
Was das Gesetz über eine kompetente aufsichtsführende Person sagt
Artikel 14 ist die einzige Stelle der Verordnung, an der die erforderlichen Fähigkeiten eines Menschen aufgezählt statt bloß angedeutet werden. Er verlangt, dass das System so bereitgestellt wird, dass die mit der Aufsicht betraute Person, soweit angemessen und verhältnismäßig, fünf Dinge tun kann.
Die einschlägigen Fähigkeiten und Grenzen des Systems angemessen verstehen. Sich der möglichen Neigung bewusst bleiben, sich automatisch oder übermäßig auf die Ausgabe zu verlassen, was der Text als Automatisierungsbias bezeichnet, insbesondere dort, wo das System Informationen oder Empfehlungen für eine von einem Menschen zu treffende Entscheidung liefert. Die Ausgabe richtig interpretieren. In einer konkreten Situation entscheiden, das System nicht zu verwenden oder dessen Ausgabe zu missachten, zu übersteuern oder rückgängig zu machen. Und in den Betrieb eingreifen oder das System über eine Stopptaste oder ein vergleichbares Verfahren in einen sicheren Zustand bringen.
Lesen Sie diese Liste als Stellenbeschreibung statt als Compliance-Klausel, und etwas wird offensichtlich. Keine einzige dieser fünf Fähigkeiten verlangt von Ihnen zu wissen, wie ein Transformer funktioniert. Jede einzelne verlangt von Ihnen zu wissen, wofür genau dieses System da ist, wo es versagt und was seine Ausgabe bedeutet. Das ist eine andere Art technischen Wissens als jene, über die Ingenieure verfügen, und keine schwächere.
Die vierte Fähigkeit stellt alles neu auf. Das Gesetz unterstellt, dass Kompetenz auch die Befugnis zur Ablehnung einschließt. Wer nicht sagen kann “ich verwende diese Ausgabe nicht”, wurde nicht kompetent gemacht, gleichgültig welche Schulung er erhalten hat.
Die andere Hälfte: was das Risiko-Rahmenwerk beisteuert
Die KI-Verordnung sagt Ihnen, wozu Sie fähig sein müssen. Sie sagt Ihnen nicht, worauf Sie schauen sollen. Dafür ist die meistgenutzte öffentliche Referenz das KI-Risikomanagement-Rahmenwerk des NIST, veröffentlicht als NIST AI 100-1 und ausdrücklich freiwillig, branchenunabhängig und für Organisationen jeder Größe gedacht.
Zwei seiner Strukturen sind für Nichtfachleute unmittelbar nützlich.
Das Rahmenwerk gliedert die Risikoarbeit in vier Funktionen: GOVERN, MAP, MEASURE und MANAGE, wobei Governance so angelegt ist, dass sie die anderen drei durchdringt statt neben ihnen zu stehen. Und es benennt sieben Merkmale vertrauenswürdiger KI-Systeme: valide und zuverlässig; sicher; abwehrfähig und widerstandsfähig; rechenschaftspflichtig und transparent; erklärbar und interpretierbar; datenschutzfördernd; und fair mit beherrschter schädlicher Verzerrung.
Das NIST veröffentlichte später ein Begleitdokument speziell für generative Systeme, das Generative AI Profile, im Juli 2024 als NIST AI 600-1 erschienen. Es zählt zwölf Risiken auf, die für generative KI einzigartig sind oder durch sie verschärft werden, und zwei davon gehören auf die Liste jeder nicht-technischen aufsichtsführenden Person. Das erste ist Konfabulation, die das NIST als die Erzeugung selbstbewusst formulierter, aber fehlerhafter oder falscher Inhalte definiert und ausdrücklich mit dem umgangssprachlich als Halluzination bekannten Phänomen gleichsetzt. Das zweite ist die Mensch-KI-Konfiguration, die das NIST als Anordnungen oder Interaktionen zwischen einem Menschen und einem KI-System beschreibt, die zu unangemessener Vermenschlichung des Systems oder zu Algorithmenaversion, Automatisierungsbias, übermäßigem Vertrauen oder emotionaler Verstrickung führen können.
Bei diesem zweiten Risiko lohnt sich ein Innehalten. Der Fehlermodus, den das NIST benennt, ist nicht das Modell. Es ist die Beziehung zwischen dem Modell und der Person, die es nutzt, und sie wirkt in beide Richtungen: übermäßiges Vertrauen ist ein Risiko, reflexhaftes Misstrauen ebenfalls. Das kann Ihnen niemand von der technischen Seite aus abnehmen.
Die sieben Merkmale sind im Grunde die Fehlermodi als Ziele formuliert. Jedes ist eine Art, wie ein System Sie im Stich lassen kann, und über jedes kann sich eine nicht-technische aufsichtsführende Person eine Meinung bilden, ohne Modelldokumentation zu lesen. Ob eine Ausgabe korrekt war, ist eine Frage der Validität. Ob Sie sagen können, warum sie zustande kam, ist eine Frage der Erklärbarkeit. Ob sich das System bei verschiedenen Personengruppen gleich verhält, ist eine Frage der Fairness. Keine davon verlangt Code.
Die Matrix der Betreiberkompetenz
Hier leisten die beiden Dokumente gemeinsam etwas, das keines allein leistet. Die KI-Verordnung benennt Fähigkeiten, ohne zu sagen, worauf zu schauen ist. Das NIST benennt, worauf zu schauen ist, ohne zu sagen, wer dazu fähig sein muss. Ihre Verbindung ergibt ein Kompetenzprofil für die nicht-technische Fachkraft.
Die folgende Matrix ist ein redaktionelles Rahmenwerk von CEOtudent. Die beiden linken Spalten sind belegt, die beiden rechten sind unsere Synthese und sollten als Argument gelesen werden, nicht als Befund.
| Kompetenz | Rechtlicher Anker (KI-VO Art. 14 Abs. 4) | Risikoperspektive (NIST AI 100-1) | Die Frage, die Sie beantworten können müssen | Wie Inkompetenz aussieht |
|---|---|---|---|---|
| 1. Geltungsbereich | Die einschlägigen Fähigkeiten und Grenzen des Systems verstehen | Valide und zuverlässig | Wofür wurde dieses System gebaut, und bei welcher Art von Eingabe hört es auf zuverlässig zu sein? | Ein Werkzeug außerhalb seiner Zweckbestimmung nutzen, weil es eine flüssige Antwort lieferte |
| 2. Misstrauen | Sich der Neigung zu übermäßigem Vertrauen bewusst bleiben (Automatisierungsbias) | Rechenschaftspflichtig und transparent | Unter welchen Bedingungen würde ich diese Ausgabe anzweifeln, und habe ich heute eine davon geprüft? | Ausgaben mit wachsendem, unbelegtem Vertrauen immer schneller freigeben |
| 3. Interpretation | Die Ausgabe des Systems richtig interpretieren | Erklärbar und interpretierbar | Weiß ich, was dieser Score, dieses Ranking oder dieser Konfidenzwert tatsächlich misst? | Ein Ranking für ein Urteil und eine Konfidenzzahl für eine Trefferwahrscheinlichkeit halten |
| 4. Ablehnung | Entscheiden, das System nicht zu nutzen oder seine Ausgabe zu übersteuern | Fair, mit beherrschter schädlicher Verzerrung | Auf welcher Grundlage darf ich diese Ausgabe zurückweisen, und habe ich das je getan? | Das System nie übersteuert zu haben und kein Verfahren zu kennen, das dies erlauben würde |
| 5. Unterbrechung | In den Betrieb eingreifen oder das System sicher anhalten | Sicher; abwehrfähig und widerstandsfähig | Wer stoppt das, wie, und wie lange dauert das Stoppen? | Niemand im Raum weiß, wer befugt ist, es abzuschalten |
Die Matrix ist bewusst kurz. Fünf Kompetenzen, jede rückführbar auf eine bestimmte rechtliche Fähigkeit und ein bestimmtes Vertrauenswürdigkeitsmerkmal. Wenn ein Schulungsprogramm nicht zeigen kann, wo es jede der fünf entwickelt, vermittelt es Vokabular.
Beachten Sie, was fehlt. Keine Zeile für Modellarchitektur, keine für Trainingsdatenmenge, keine für Prompt-Technik. Das ist lernenswert und es ist nicht die Untergrenze. Die Untergrenze ist die Fähigkeit, für eine vom System beeinflusste Entscheidung einzustehen, und die Liste der Verordnung ist dafür ein besserer Leitfaden als jeder derzeit verkaufte Lehrplan.
Die Matrix an Ihrer tatsächlichen Woche prüfen
Die Matrix zahlt sich aus, wenn Sie sie auf ein System anwenden, das Sie bereits nutzen, statt auf KI im Allgemeinen.
Wählen Sie ein Werkzeug, auf das sich Ihr Team diese Woche verlassen hat. Einen Bewerbungsfilter, ein Prognosemodell, einen Schreibassistenten, eine Betrugswarnung. Beantworten Sie dann die fünf Fragen der Reihe nach schriftlich und achten Sie darauf, welche Sie nicht beantworten können.
Die meisten stellen fest, dass sie eins und drei teilweise beantworten können. Sie wissen ungefähr, wofür das Werkzeug da ist, und ungefähr, was seine Ausgabe bedeutet. Bei zwei, vier und fünf scheitern sie. Sie haben keine benannten Bedingungen, unter denen sie zweifeln würden, keine Grundlage, auf der sie ablehnen dürften, und keine Vorstellung davon, wer es stoppt.
Diese Verteilung sollte man ernst nehmen, denn zwei, vier und fünf sind die Kompetenzen, die Aufsicht real machen. Eins und drei machen Sie zu einer informierten Nutzerin. Zwei, vier und fünf machen Sie zur aufsichtsführenden Person. Die Verordnung verlangt das Zweite.
Wer statt der Checkliste die zugrunde liegende Fähigkeit entwickeln möchte, findet die Anschlussarbeiten auf dieser Seite: der Unterschied zwischen Wissen über KI und flüssigem Arbeiten mit ihr in KI-Kompetenz gegenüber KI-Flüssigkeit, die Begründung, warum Prompt-Können allein nicht reicht, in Prompt Engineering genügt nicht, die Begriffe vor der Übergabe von Arbeit an autonome Systeme in Agentenkompetenz, die Fähigkeit, die das Prompt-Handwerk ablöst, in was ist Context Engineering, und die Frage, wo Lernzeit hingehört, in welche KI-Werkzeuge sich tiefes Lernen lohnen.
Wo diese Sichtweise an Grenzen stößt
Drei ehrliche Vorbehalte.
Die KI-Verordnung ist europäisches Recht. Wenn Sie außerhalb der Europäischen Union arbeiten und Ihr Arbeitgeber keine Systeme auf dem EU-Markt bereitstellt oder Ausgaben in der EU verwendet, bindet Sie nichts davon. Die Kompetenzen sind dennoch übertragbar, weil sie daraus abgeleitet wurden, was Aufsicht tatsächlich erfordert, die Pflicht ist es nicht.
Artikel 4 ist weich formuliert. Er verlangt Maßnahmen, um nach besten Kräften und unter Berücksichtigung des Kontextes ein ausreichendes Maß an Kompetenz sicherzustellen. Das ist kein prüfbarer Standard, und die Verordnung knüpft daran keine bestimmte Schulungspflicht. Ihn als präzise Vorgabe zu behandeln, überzeichnet den Text.
Und die Matrix ist eine Synthese, kein kodifizierter Standard. Die KI-Verordnung verweist nicht auf das NIST, und das NIST verweist nicht auf die Verordnung. Ihre Zuordnung ist unser redaktionelles Urteil darüber, was die Überschneidung nahelegt. Jemand anderes könnte anders zuordnen und wäre ebenso vertretbar.
Nichts davon ändert die zugrunde liegende Verschiebung. Den größten Teil des vergangenen Jahrzehnts war das Verstehen von KI-Systemen für nicht-technische Fachkräfte optional und belohnte die Neugierigen. Jetzt ist es spezifiziert, datiert und in einer Rechtsordnung vorgeschrieben. Gut fahren werden nicht die, die das Glossar auswendig gelernt haben. Sondern die, die über ein bestimmtes System an einem bestimmten Dienstag genau sagen können, was es schlecht macht und was sie dagegen tun.
Häufige Fragen
Bedeutet Artikel 4, dass mein Arbeitgeber mich auf einen KI-Kurs schicken muss?
Nein. Der Text verlangt von Anbietern und Betreibern, nach besten Kräften Maßnahmen zu ergreifen, um ein ausreichendes Maß an KI-Kompetenz sicherzustellen, unter Berücksichtigung von Vorkenntnissen, Erfahrung, Ausbildung und Nutzungskontext. Er nennt weder Format noch Lehrplan, Zertifikat oder Stundenzahl. Eine strukturierte interne Unterweisung zu den Systemen, die Sie tatsächlich bedienen, kommt dem Beschriebenen näher als ein allgemeiner Kurs.
Ich bin nicht technisch. Soll ich wirklich ein Hochrisikosystem beaufsichtigen?
Häufig ja. Anhang III Nummer 4 stuft KI für Einstellung, Bewerbungsfilterung, Bewerberbewertung, Beförderungs- und Beendigungsentscheidungen, Aufgabenzuweisung und Leistungsüberwachung als hochriskant ein. Diese Systeme werden von der Personalabteilung und von Führungskräften bedient, nicht von Ingenieuren. Artikel 14 weist die Aufsichtsfähigkeit der damit betrauten natürlichen Person zu, wer immer das ist.
Was ist Automatisierungsbias, und warum steht er im Gesetz?
Es ist die Neigung, sich automatisch oder übermäßig auf die Ausgabe eines automatisierten Systems zu verlassen. Die Verordnung benennt ihn in Artikel 14 ausdrücklich als etwas, dessen sich die aufsichtsführende Person bewusst bleiben muss, und hebt den Fall hervor, in dem ein System Informationen oder Empfehlungen für eine von einem Menschen förmlich zu treffende Entscheidung liefert. Das ist der übliche Fall im Arbeitsalltag: Das System entscheidet nicht, es schlägt vor, und der Mensch genehmigt.
Ist das NIST-Rahmenwerk verpflichtend?
Nein. NIST AI 100-1 ist ein freiwilliges Rahmenwerk. Es steht hier, weil es die Prüfkategorien liefert, die die KI-Verordnung offenlässt, und weil seine sieben Vertrauenswürdigkeitsmerkmale auch für jemanden nutzbar sind, der keine Modelldokumentation lesen kann.
Wann trat die KI-Verordnung der EU tatsächlich in Kraft?
Artikel 113 setzt den allgemeinen Anwendungsbeginn auf den 2. August 2026. Die Kapitel I und II, die die Begriffsbestimmungen, Artikel 4 zur KI-Kompetenz und die verbotenen Praktiken enthalten, galten früher, ab dem 2. Februar 2025. Kapitel III Abschnitt 4, Kapitel V, Kapitel VII, Kapitel XII und Artikel 78 galten ab dem 2. August 2025. Artikel 6 Absatz 1, der KI-Systeme als Sicherheitsbauteile regulierter Produkte erfasst, und die entsprechenden Pflichten gelten ab dem 2. August 2027.
Welche Kompetenz sollte ich zuerst aufbauen?
Die Ablehnung. Sie ist diejenige, die die meisten nie ausgeübt haben, sie zeigt, ob Aufsicht real oder zeremoniell ist, und sie ist die einzige, die eine Prozessänderung statt einer Wissensänderung verlangt. Wenn es keinen Weg gibt, auf dem Sie eine Ausgabe zurückweisen können und dies Bestand hat, haben die anderen vier Kompetenzen keinen Ort.
Quellen
- Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz, Amtsblatt der Europäischen Union, Artikel 3 Nummer 56 zur Definition der KI-Kompetenz
- Verordnung (EU) 2024/1689, Artikel 4 zur KI-Kompetenz und Artikel 5 zu verbotenen KI-Praktiken, Kapitel I und Kapitel II
- Verordnung (EU) 2024/1689, Artikel 14 zur menschlichen Aufsicht und Artikel 50 zu Transparenzpflichten
- Verordnung (EU) 2024/1689, Artikel 113 zu Inkrafttreten und Anwendung sowie Anhang III Nummer 4 zu Beschäftigung und Personalmanagement
- National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, Handelsministerium der Vereinigten Staaten, Januar 2023
- National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1, Juli 2024
Dieser Inhalt wurde nach eingehender Recherche mit Unterstützung von KI zusammengestellt und vom CEOtudent-Redaktionsteam geschrieben und für die Veröffentlichung aufbereitet.
This post is also available in:
