<\/span><\/h2>\nEsto no es una apelaci\u00f3n a la autoridad. Es una apelaci\u00f3n al hecho de que alguien ya dedic\u00f3 a\u00f1os a la versi\u00f3n dif\u00edcil de esta pregunta, con juristas defendiendo ambos lados, y el resultado es p\u00fablico.<\/p>\n
El art\u00edculo 22 del RGPD<\/strong> establece que el interesado tiene derecho a no ser objeto de una decisi\u00f3n basada \u00fanicamente en el tratamiento automatizado, incluida la elaboraci\u00f3n de perfiles, que produzca efectos jur\u00eddicos en \u00e9l o le afecte significativamente de modo similar. Cuando ese tratamiento est\u00e1 permitido, el responsable debe aplicar garant\u00edas que incluyan, como m\u00ednimo, el derecho a obtener intervenci\u00f3n humana, a expresar su punto de vista y a impugnar la decisi\u00f3n. Las orientaciones regulatorias consideran ejemplos de los efectos cubiertos la denegaci\u00f3n autom\u00e1tica de una solicitud de cr\u00e9dito en l\u00ednea y las pr\u00e1cticas de contrataci\u00f3n electr\u00f3nica sin intervenci\u00f3n humana.<\/p>\nLea el mecanismo en lugar del lenguaje jur\u00eddico. El detonante no es que el sistema pueda ser impreciso. El detonante es la combinaci\u00f3n de dos cosas: la decisi\u00f3n la toma \u00fanicamente<\/em> la m\u00e1quina y la consecuencia para la persona es significativa<\/em>. La precisi\u00f3n no se menciona. Un sistema muy preciso que deniega su cr\u00e9dito sin ninguna persona en el proceso sigue siendo justo aquello de lo que trata el art\u00edculo.<\/p>\nEl Reglamento europeo de IA, Reglamento (UE) 2024\/1689,<\/strong> toma la misma l\u00f3gica y se vuelve concreto. El art\u00edculo 14 exige que los sistemas de alto riesgo se dise\u00f1en de modo que puedan ser supervisados eficazmente por personas f\u00edsicas. El apartado 4 enumera despu\u00e9s lo que la persona supervisora debe poder hacer realmente. Es, inesperadamente, una de las mejores listas de comprobaci\u00f3n de decisiones jam\u00e1s escritas, y se traslada directamente al uso personal.<\/p>\nTabla 1. Las cinco capacidades de supervisi\u00f3n del art\u00edculo 14, apartado 4, del Reglamento de IA, traducidas a preguntas de decisi\u00f3n personal (marco editorial de CEOtudent, construido sobre el texto verificado del Reglamento (UE) 2024\/1689)<\/strong><\/p>\n\n\n\n| El art\u00edculo 14, apartado 4, exige que la persona supervisora pueda<\/th>\n | La pregunta personal en la que se convierte<\/th>\n<\/tr>\n<\/thead>\n |
\n\n| (a) entender adecuadamente las capacidades y limitaciones pertinentes del sistema y vigilar su funcionamiento, incluida la detecci\u00f3n de anomal\u00edas<\/td>\n | \u00bfS\u00e9 realmente en qu\u00e9 es mala esta herramienta, o solo en qu\u00e9 es buena?<\/td>\n<\/tr>\n |
\n| (b) seguir siendo consciente de la posible tendencia a confiar autom\u00e1tica o excesivamente en el resultado (sesgo de automatizaci\u00f3n)<\/td>\n | Si me descubriera aceptando siempre, \u00bfme dar\u00eda cuenta?<\/td>\n<\/tr>\n |
\n| (c) interpretar correctamente el resultado del sistema, teniendo en cuenta las herramientas de interpretaci\u00f3n disponibles<\/td>\n | \u00bfPuedo leer el resultado lo bastante bien como para distinguir uno bueno de uno equivocado y seguro de s\u00ed mismo?<\/td>\n<\/tr>\n |
\n| (d) decidir, en cualquier situaci\u00f3n concreta, no utilizar el sistema o descartar, invalidar o revertir su resultado<\/td>\n | \u00bfTengo una alternativa real si lo rechazo, o quedo comprometido en el momento de preguntar?<\/td>\n<\/tr>\n |
\n| (e) intervenir en el funcionamiento o interrumpir el sistema mediante un bot\u00f3n de parada o procedimiento similar<\/td>\n | \u00bfPuedo detener esto antes de que afecte a alguien que no sea yo?<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n El apartado 5 a\u00f1ade una regla m\u00e1s que merece tomarse prestada en lo personal. Para la identificaci\u00f3n biom\u00e9trica remota, no podr\u00e1 adoptarse ninguna acci\u00f3n ni decisi\u00f3n sobre la base de la identificaci\u00f3n resultante del sistema salvo que esta haya sido verificada y confirmada por separado por al menos dos personas f\u00edsicas con la competencia, formaci\u00f3n y autoridad necesarias. La respuesta de la norma a la categor\u00eda de mayor riesgo no es un algoritmo mejor. Es una segunda persona.<\/p>\n El anexo III enumera los \u00e1mbitos que el Reglamento clasifica de entrada como de alto riesgo: biometr\u00eda; infraestructuras cr\u00edticas; educaci\u00f3n y formaci\u00f3n profesional; empleo y gesti\u00f3n de trabajadores; acceso a servicios privados y p\u00fablicos esenciales, incluidas la solvencia y la fijaci\u00f3n de precios de seguros; aplicaci\u00f3n de la ley; migraci\u00f3n, asilo y control fronterizo; y administraci\u00f3n de justicia y procesos democr\u00e1ticos. Los sistemas de estas categor\u00edas introducidos en el mercado despu\u00e9s del 2 de agosto de 2026 quedan sujetos al r\u00e9gimen.<\/p>\n F\u00edjese en qu\u00e9 tienen en com\u00fan esos ocho. No son los problemas m\u00e1s dif\u00edciles. Algunos son triviales en t\u00e9rminos de c\u00e1lculo. Son las decisiones en las que la persona afectada no puede deshacer f\u00e1cilmente el resultado, no puede verificar con facilidad el razonamiento y no eligi\u00f3 estar en el proceso. Ese es el patr\u00f3n, y es el patr\u00f3n que usted puede utilizar.<\/p>\n <\/span>La variable que todos equivocan no es la precisi\u00f3n<\/span><\/h2>\nEste es el argumento para tomarse en serio el encuadre de la reversibilidad en lugar del de la precisi\u00f3n.<\/p>\n En 2025, METR realiz\u00f3 un ensayo controlado aleatorizado con 16 desarrolladores de c\u00f3digo abierto experimentados sobre 246 tareas reales en sus propios repositorios, asignando las tareas al azar a permitir o no herramientas de IA. Antes del estudio, los participantes pronosticaron que la IA los acelerar\u00eda un 24%. Tras hacer el trabajo, estimaron que los hab\u00eda acelerado un 20%. Medidos, fueron un 19% m\u00e1s lentos. METR califica ahora el resultado de hist\u00f3rico y se\u00f1ala que no refleja necesariamente las herramientas o los flujos de trabajo actuales, y esa salvedad debe tomarse en serio.<\/p>\n El n\u00famero que sobrevive a la salvedad no es el 19%. Es la brecha de 39 puntos entre lo que midieron profesionales expertos y lo que esos mismos profesionales cre\u00edan, en su propio campo, sobre un trabajo que acababan de terminar.<\/p>\n Esa brecha es todo el problema de las reglas de delegaci\u00f3n basadas en la precisi\u00f3n. Una regla del tipo “delega cuando la IA sea lo bastante fiable” exige que usted sepa cu\u00e1n fiable fue. Las personas mejor situadas para saberlo se equivocaron 39 puntos sobre s\u00ed mismas. El Reglamento de IA nombra este modo de fallo directamente en el art\u00edculo 14, apartado 4, letra b, que exige a las personas supervisoras seguir siendo conscientes de la tendencia a confiar en exceso. Los reguladores construyeron la lista alrededor de eso porque tampoco esperaban que la autoevaluaci\u00f3n funcionara.<\/p>\n As\u00ed que deje de preguntar cu\u00e1n probable es que se equivoque. Pregunte qu\u00e9 ocurre cuando lo haga.<\/p>\n |