<\/span><\/h2>\nCe n’est pas un argument d’autorit\u00e9. C’est le constat que quelqu’un a d\u00e9j\u00e0 pass\u00e9 des ann\u00e9es sur la version difficile de cette question, avec des juristes plaidant les deux camps, et que le r\u00e9sultat est public.<\/p>\n
L’article 22 du RGPD<\/strong> \u00e9tablit que la personne concern\u00e9e a le droit de ne pas faire l’objet d’une d\u00e9cision fond\u00e9e exclusivement sur un traitement automatis\u00e9, y compris le profilage, produisant des effets juridiques la concernant ou l’affectant de mani\u00e8re significative de fa\u00e7on similaire. Lorsqu’un tel traitement est admis, le responsable doit mettre en oeuvre des garanties comprenant au minimum le droit d’obtenir une intervention humaine, d’exprimer son point de vue et de contester la d\u00e9cision. Les lignes directrices des autorit\u00e9s citent le refus automatique d’une demande de cr\u00e9dit en ligne et les pratiques de recrutement en ligne sans intervention humaine comme exemples des effets vis\u00e9s.<\/p>\nLisez le m\u00e9canisme plut\u00f4t que la formulation juridique. Le d\u00e9clencheur n’est pas que le syst\u00e8me puisse se tromper. Le d\u00e9clencheur est la combinaison de deux \u00e9l\u00e9ments : la d\u00e9cision est prise exclusivement<\/em> par la machine, et la cons\u00e9quence pour la personne est significative<\/em>. La pr\u00e9cision n’est pas mentionn\u00e9e. Un syst\u00e8me tr\u00e8s pr\u00e9cis qui refuse votre cr\u00e9dit sans aucun humain dans la boucle rel\u00e8ve toujours de cet article.<\/p>\nLe r\u00e8glement europ\u00e9en sur l’IA, r\u00e8glement (UE) 2024\/1689,<\/strong> reprend la m\u00eame logique et se fait pr\u00e9cis. L’article 14 exige que les syst\u00e8mes \u00e0 haut risque soient con\u00e7us pour pouvoir \u00eatre supervis\u00e9s efficacement par des personnes physiques. Le paragraphe 4 \u00e9num\u00e8re ensuite ce que le superviseur doit effectivement pouvoir faire. C’est, de fa\u00e7on inattendue, l’une des meilleures listes de contr\u00f4le d\u00e9cisionnel jamais \u00e9crites, et elle se transpose directement \u00e0 l’usage personnel.<\/p>\nTableau 1. Les cinq capacit\u00e9s de supervision de l’article 14, paragraphe 4, traduites en questions de d\u00e9cision personnelle (cadre \u00e9ditorial CEOtudent, fond\u00e9 sur le texte v\u00e9rifi\u00e9 du r\u00e8glement (UE) 2024\/1689)<\/strong><\/p>\n\n\n\n| L’article 14, paragraphe 4, exige que le superviseur puisse<\/th>\n | La question personnelle correspondante<\/th>\n<\/tr>\n<\/thead>\n |
\n\n| (a) comprendre correctement les capacit\u00e9s et limites pertinentes du syst\u00e8me et surveiller son fonctionnement, y compris d\u00e9tecter les anomalies<\/td>\n | Est-ce que je sais vraiment ce que cet outil fait mal, ou seulement ce qu’il fait bien ?<\/td>\n<\/tr>\n |
\n| (b) rester conscient de la tendance possible \u00e0 se fier automatiquement ou excessivement au r\u00e9sultat (biais d’automatisation)<\/td>\n | Si je me surprenais \u00e0 approuver chaque fois, est-ce que je le remarquerais ?<\/td>\n<\/tr>\n |
\n| (c) interpr\u00e9ter correctement le r\u00e9sultat du syst\u00e8me, compte tenu des outils d’interpr\u00e9tation disponibles<\/td>\n | Puis-je lire le r\u00e9sultat assez bien pour distinguer un bon r\u00e9sultat d’un r\u00e9sultat faux et assur\u00e9 ?<\/td>\n<\/tr>\n |
\n| (d) d\u00e9cider, dans une situation donn\u00e9e, de ne pas utiliser le syst\u00e8me ou d’ignorer, contourner ou inverser son r\u00e9sultat<\/td>\n | Ai-je une alternative r\u00e9elle si je refuse, ou suis-je engag\u00e9 d\u00e8s l’instant o\u00f9 je pose la question ?<\/td>\n<\/tr>\n |
\n| (e) intervenir dans le fonctionnement ou interrompre le syst\u00e8me par un bouton d’arr\u00eat ou une proc\u00e9dure similaire<\/td>\n | Puis-je arr\u00eater cela avant que cela ne touche quelqu’un d’autre que moi ?<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n Le paragraphe 5 ajoute une r\u00e8gle qu’il vaut la peine d’emprunter \u00e0 titre personnel. Pour l’identification biom\u00e9trique \u00e0 distance, aucune action ni d\u00e9cision ne peut \u00eatre prise sur la base de l’identification r\u00e9sultant du syst\u00e8me, \u00e0 moins que celle-ci n’ait \u00e9t\u00e9 v\u00e9rifi\u00e9e et confirm\u00e9e s\u00e9par\u00e9ment par au moins deux personnes physiques disposant des comp\u00e9tences, de la formation et de l’autorit\u00e9 n\u00e9cessaires. La r\u00e9ponse du droit \u00e0 la cat\u00e9gorie la plus sensible n’est pas un meilleur algorithme. C’est un second humain.<\/p>\n L’annexe III \u00e9num\u00e8re les domaines que le r\u00e8glement classe d’embl\u00e9e \u00e0 haut risque : biom\u00e9trie ; infrastructures critiques ; \u00e9ducation et formation professionnelle ; emploi et gestion des travailleurs ; acc\u00e8s aux services priv\u00e9s et publics essentiels, y compris solvabilit\u00e9 et tarification de l’assurance ; r\u00e9pression ; migration, asile et contr\u00f4le aux fronti\u00e8res ; administration de la justice et processus d\u00e9mocratiques. Les syst\u00e8mes de ces cat\u00e9gories mis sur le march\u00e9 apr\u00e8s le 2 ao\u00fbt 2026 rel\u00e8vent du r\u00e9gime.<\/p>\n Regardez ce que ces huit domaines ont en commun. Ce ne sont pas les probl\u00e8mes les plus difficiles. Certains sont triviaux sur le plan calculatoire. Ce sont les d\u00e9cisions dont la personne affect\u00e9e ne peut pas facilement annuler le r\u00e9sultat, ne peut pas ais\u00e9ment v\u00e9rifier le raisonnement, et n’a pas choisi de faire partie du processus. C’est le motif, et c’est celui que vous pouvez utiliser.<\/p>\n <\/span>La variable que tout le monde se trompe n’est pas la pr\u00e9cision<\/span><\/h2>\nVoici pourquoi il faut prendre au s\u00e9rieux le cadrage par la r\u00e9versibilit\u00e9 plut\u00f4t que par la pr\u00e9cision.<\/p>\n En 2025, METR a men\u00e9 un essai contr\u00f4l\u00e9 randomis\u00e9 avec 16 d\u00e9veloppeurs open source exp\u00e9riment\u00e9s sur 246 t\u00e2ches r\u00e9elles dans leurs propres d\u00e9p\u00f4ts, les t\u00e2ches \u00e9tant affect\u00e9es al\u00e9atoirement \u00e0 un groupe autorisant ou interdisant les outils d’IA. Avant l’\u00e9tude, les participants pr\u00e9voyaient que l’IA les acc\u00e9l\u00e9rerait de 24%. Apr\u00e8s le travail, ils estimaient avoir \u00e9t\u00e9 acc\u00e9l\u00e9r\u00e9s de 20%. Mesur\u00e9s, ils \u00e9taient 19% plus lents. METR qualifie d\u00e9sormais ce r\u00e9sultat d’historique, en pr\u00e9cisant qu’il ne refl\u00e8te pas n\u00e9cessairement les outils ou les m\u00e9thodes actuels, et cette r\u00e9serve m\u00e9rite d’\u00eatre prise au s\u00e9rieux.<\/p>\n Le chiffre qui survit \u00e0 la r\u00e9serve n’est pas le 19%. C’est l’\u00e9cart de 39 points entre ce que des praticiens experts ont mesur\u00e9 et ce que ces m\u00eames praticiens croyaient, dans leur propre domaine, \u00e0 propos d’un travail qu’ils venaient de terminer.<\/p>\n Cet \u00e9cart est tout le probl\u00e8me des r\u00e8gles de d\u00e9l\u00e9gation fond\u00e9es sur la pr\u00e9cision. Une r\u00e8gle du type “d\u00e9l\u00e9guer quand l’IA est assez fiable” exige que vous sachiez \u00e0 quel point elle l’a \u00e9t\u00e9. Les personnes les mieux plac\u00e9es pour le savoir se trompaient de 39 points sur elles-m\u00eames. Le r\u00e8glement sur l’IA nomme directement ce mode de d\u00e9faillance \u00e0 l’article 14, paragraphe 4, point b, qui impose aux superviseurs de rester conscients de la tendance \u00e0 la surconfiance. Les r\u00e9gulateurs ont b\u00e2ti la liste autour de cela parce qu’ils n’attendaient pas non plus que l’auto-\u00e9valuation fonctionne.<\/p>\n Cessez donc de demander quelle est la probabilit\u00e9 d’erreur. Demandez ce qui se passe quand elle survient.<\/p>\n |