İşStrateji
0

¿Debería dejar que la IA decida? Qué elecciones delegar y cuáles no automatizar nunca

Person pausing at a sunlit window beside an open laptop before making a decision

En resumen: la cuestión de dejar que la IA decida suele plantearse como una cuestión de precisión, y plantearla así garantiza una mala respuesta. La precisión indica la probabilidad de equivocarse. No dice nada del coste de equivocarse, que es lo que en realidad determina si delegar tiene sentido. Dos cuerpos normativos ya han trabajado la versión difícil de este problema. El artículo 22 del RGPD reconoce a las personas el derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado cuando produzca efectos jurídicos o le afecte significativamente de modo similar, junto con el derecho a obtener intervención humana y a impugnar la decisión. El Reglamento europeo de IA, Reglamento (UE) 2024/1689, va más lejos: el artículo 14, apartado 4, enumera cinco capacidades concretas que la persona supervisora debe conservar, el apartado 5 exige que dos personas distintas confirmen determinadas identificaciones biométricas, y el anexo III nombra ocho ámbitos en los que la norma sencillamente no confía en la automatización sin supervisión. A continuación: esas cinco capacidades convertidas en cinco preguntas sencillas, una prueba propia de cinco factores con una tabla resuelta sobre once decisiones cotidianas, y datos verificados de encuestas sobre dónde está realmente la confianza pública, incluida una encuesta Bentley-Gallup a 3.270 adultos estadounidenses realizada del 4 al 11 de mayo de 2026 según la cual los estadounidenses siguen juzgando que la IA rinde peor que las personas en todas las tareas estudiadas.

Pregunte a la mayoría dónde está la línea para dejar decidir a la IA y obtendrá una respuesta sobre capacidad. Que decida las cosas pequeñas. Que no decida las grandes. Esperar a que mejore.

Esa respuesta suena razonable y resulta casi inútil, porque no dice qué cuenta como pequeño, no explica cómo sería ese “mejor” y funde dos riesgos completamente distintos en una sola palabra.

Hay una forma más precisa de pensarlo, y no salió de un libro de productividad. Salió de reguladores que tuvieron que escribir, en lenguaje exigible, cuándo puede decidir una máquina y cuándo no.

Empiece por lo que la norma ya resolvió

Esto no es una apelación a la autoridad. Es una apelación al hecho de que alguien ya dedicó años a la versión difícil de esta pregunta, con juristas defendiendo ambos lados, y el resultado es público.

El artículo 22 del RGPD establece que el interesado tiene derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar. Cuando ese tratamiento está permitido, el responsable debe aplicar garantías que incluyan, como mínimo, el derecho a obtener intervención humana, a expresar su punto de vista y a impugnar la decisión. Las orientaciones regulatorias consideran ejemplos de los efectos cubiertos la denegación automática de una solicitud de crédito en línea y las prácticas de contratación electrónica sin intervención humana.

Lea el mecanismo en lugar del lenguaje jurídico. El detonante no es que el sistema pueda ser impreciso. El detonante es la combinación de dos cosas: la decisión la toma únicamente la máquina y la consecuencia para la persona es significativa. La precisión no se menciona. Un sistema muy preciso que deniega su crédito sin ninguna persona en el proceso sigue siendo justo aquello de lo que trata el artículo.

El Reglamento europeo de IA, Reglamento (UE) 2024/1689, toma la misma lógica y se vuelve concreto. El artículo 14 exige que los sistemas de alto riesgo se diseñen de modo que puedan ser supervisados eficazmente por personas físicas. El apartado 4 enumera después lo que la persona supervisora debe poder hacer realmente. Es, inesperadamente, una de las mejores listas de comprobación de decisiones jamás escritas, y se traslada directamente al uso personal.

Tabla 1. Las cinco capacidades de supervisión del artículo 14, apartado 4, del Reglamento de IA, traducidas a preguntas de decisión personal (marco editorial de CEOtudent, construido sobre el texto verificado del Reglamento (UE) 2024/1689)

El artículo 14, apartado 4, exige que la persona supervisora pueda La pregunta personal en la que se convierte
(a) entender adecuadamente las capacidades y limitaciones pertinentes del sistema y vigilar su funcionamiento, incluida la detección de anomalías ¿Sé realmente en qué es mala esta herramienta, o solo en qué es buena?
(b) seguir siendo consciente de la posible tendencia a confiar automática o excesivamente en el resultado (sesgo de automatización) Si me descubriera aceptando siempre, ¿me daría cuenta?
(c) interpretar correctamente el resultado del sistema, teniendo en cuenta las herramientas de interpretación disponibles ¿Puedo leer el resultado lo bastante bien como para distinguir uno bueno de uno equivocado y seguro de sí mismo?
(d) decidir, en cualquier situación concreta, no utilizar el sistema o descartar, invalidar o revertir su resultado ¿Tengo una alternativa real si lo rechazo, o quedo comprometido en el momento de preguntar?
(e) intervenir en el funcionamiento o interrumpir el sistema mediante un botón de parada o procedimiento similar ¿Puedo detener esto antes de que afecte a alguien que no sea yo?

El apartado 5 añade una regla más que merece tomarse prestada en lo personal. Para la identificación biométrica remota, no podrá adoptarse ninguna acción ni decisión sobre la base de la identificación resultante del sistema salvo que esta haya sido verificada y confirmada por separado por al menos dos personas físicas con la competencia, formación y autoridad necesarias. La respuesta de la norma a la categoría de mayor riesgo no es un algoritmo mejor. Es una segunda persona.

El anexo III enumera los ámbitos que el Reglamento clasifica de entrada como de alto riesgo: biometría; infraestructuras críticas; educación y formación profesional; empleo y gestión de trabajadores; acceso a servicios privados y públicos esenciales, incluidas la solvencia y la fijación de precios de seguros; aplicación de la ley; migración, asilo y control fronterizo; y administración de justicia y procesos democráticos. Los sistemas de estas categorías introducidos en el mercado después del 2 de agosto de 2026 quedan sujetos al régimen.

Fíjese en qué tienen en común esos ocho. No son los problemas más difíciles. Algunos son triviales en términos de cálculo. Son las decisiones en las que la persona afectada no puede deshacer fácilmente el resultado, no puede verificar con facilidad el razonamiento y no eligió estar en el proceso. Ese es el patrón, y es el patrón que usted puede utilizar.

La variable que todos equivocan no es la precisión

Este es el argumento para tomarse en serio el encuadre de la reversibilidad en lugar del de la precisión.

En 2025, METR realizó un ensayo controlado aleatorizado con 16 desarrolladores de código abierto experimentados sobre 246 tareas reales en sus propios repositorios, asignando las tareas al azar a permitir o no herramientas de IA. Antes del estudio, los participantes pronosticaron que la IA los aceleraría un 24%. Tras hacer el trabajo, estimaron que los había acelerado un 20%. Medidos, fueron un 19% más lentos. METR califica ahora el resultado de histórico y señala que no refleja necesariamente las herramientas o los flujos de trabajo actuales, y esa salvedad debe tomarse en serio.

El número que sobrevive a la salvedad no es el 19%. Es la brecha de 39 puntos entre lo que midieron profesionales expertos y lo que esos mismos profesionales creían, en su propio campo, sobre un trabajo que acababan de terminar.

Esa brecha es todo el problema de las reglas de delegación basadas en la precisión. Una regla del tipo “delega cuando la IA sea lo bastante fiable” exige que usted sepa cuán fiable fue. Las personas mejor situadas para saberlo se equivocaron 39 puntos sobre sí mismas. El Reglamento de IA nombra este modo de fallo directamente en el artículo 14, apartado 4, letra b, que exige a las personas supervisoras seguir siendo conscientes de la tendencia a confiar en exceso. Los reguladores construyeron la lista alrededor de eso porque tampoco esperaban que la autoevaluación funcionara.

Así que deje de preguntar cuán probable es que se equivoque. Pregunte qué ocurre cuando lo haga.

La prueba del límite de delegación

Cinco factores. Puntúe cada uno con 0, 1 o 2. Total de 0 a 10. Lleva unos noventa segundos una vez que la ha hecho dos veces.

  1. Reversibilidad. Si resulta equivocado, ¿con qué facilidad puede deshacerlo? 2 = totalmente reversible a coste casi nulo. 1 = reversible con coste o demora reales. 0 = irreversible.
  2. Verificabilidad. Antes de actuar, ¿puede comprobar si el resultado es correcto? 2 = puede verificarlo directa y rápidamente. 1 = puede comprobar partes por muestreo. 0 = tendría que confiar.
  3. Lo que está en juego y quién lo soporta. ¿Quién absorbe el daño? 2 = solo usted, y es pequeño. 1 = solo usted, y es importante. 0 = lo soporta otra persona, o es grande.
  4. Su experiencia. ¿Detectaría un error seguro de sí mismo en este campo? 2 = de forma fiable. 1 = a veces. 0 = no lo sabría.
  5. Repetibilidad. ¿Se repite esta decisión lo bastante como para que una regla permanente supere a un juicio nuevo cada vez? 2 = diaria o semanal. 1 = ocasional. 0 = única, o casi.

Bandas:

  • 8-10, Automatizar. Que la herramienta decida y actúe. Comprobación por muestreo periódico en lugar de caso por caso.
  • 5-7, La IA propone, usted decide. La herramienta produce la recomendación. Usted toma la decisión y responde de ella.
  • 2-4, La IA solo informa. Úsela para reunir, estructurar y poner a prueba. No deje que produzca la respuesta, porque se anclará en ella.
  • 0-1, No delegar nunca. Decisión humana y, en la parte baja de esta banda, también una segunda persona.

Tabla 2. La prueba del límite de delegación aplicada a once decisiones cotidianas (marco editorial de CEOtudent; Rev = reversibilidad, Ver = verificabilidad, Jue = lo que está en juego, Exp = su experiencia, Rep = repetibilidad)

Decisión Rev Ver Jue Exp Rep Total Banda
Clasificar la bandeja de entrada en responder hoy, más tarde e ignorar 2 2 2 2 2 10 Automatizar
Reordenar las secciones de un informe para ganar claridad 2 2 2 2 2 10 Automatizar
Publicar hoy una entrada terminada o retenerla 2 2 1 2 2 9 Automatizar
Cuál de tres herramientas comprar para un equipo de cinco personas 1 2 1 2 0 6 La IA propone, usted decide
Qué precio dar a un cliente nuevo por un trabajo conocido 1 1 1 2 1 6 La IA propone, usted decide
Primer cribado de 40 candidaturas por pertinencia 2 1 0 1 1 5 La IA propone, usted decide
Qué gastos del año pasado son deducibles 1 1 1 0 1 4 La IA solo informa
Aceptar o no una oferta de trabajo 0 1 1 1 0 3 La IA solo informa
Firmar o no un contrato de oficina a tres años 0 1 0 1 0 2 La IA solo informa
Terminar o no una sociedad empresarial 0 0 0 1 0 1 No delegar nunca
Elegir un tratamiento para una dolencia diagnosticada 0 0 0 0 0 0 No delegar nunca

De esa tabla se desprenden tres cosas que conviene decir.

La banda superior es aburrida a propósito. Todo lo que puntúa 8 o más es pequeño, reversible, verificable y frecuente. No es una limitación de los modelos actuales. Es la definición de la categoría. Cuando se dice que la IA debería ocuparse de lo pequeño, esta es la estructura bajo la intuición, y tener la estructura permite encontrar casos que la intuición pasa por alto.

La fila de las candidaturas es la incómoda. Puntúa 5, lo que la sitúa en “la IA propone, usted decide”, mientras muchas organizaciones la ejecutan hoy en modo automatizado. El factor que la arrastra hacia abajo es lo que está en juego: quien absorbe un mal cribado es la persona candidata, no usted. Precisamente por eso el anexo III del Reglamento clasifica la contratación y la evaluación de candidatos como de alto riesgo, y por eso las orientaciones del RGPD citan la contratación electrónica sin intervención humana como ejemplo de efecto significativo. Cuando su delegación traslada el coste a alguien que no eligió estar en el proceso, la puntuación baja aunque la tarea parezca rutinaria.

La baja experiencia empuja las decisiones hacia abajo, no hacia arriba. Este es el punto contraintuitivo, y revierte cómo se comporta la mayoría. El instinto es delegar más donde menos se sabe, porque ahí uno se siente menos capaz. Pero el factor 4 existe porque delegar exige poder detectar un error seguro de sí mismo, y en un campo que no entiende, no puede. No conocer la respuesta es una razón para usar la IA para aprender y una razón para no dejar que decida. La fila fiscal puntúa 0 en experiencia exactamente por esto.

En qué confía realmente el público y dónde diverge

El juicio individual no se forma en el vacío, así que conviene saber dónde está hoy la intuición colectiva.

Tabla 3. Datos verificados de encuestas estadounidenses sobre uso de IA y rendimiento percibido (Pew Research Center, febrero de 2026; Bentley-Gallup, mayo de 2026)

Indicador Cifra verificada Fuente y fechas de campo
Adultos estadounidenses que usan asistentes conversacionales de IA 49%, frente al 33% de 2024 Pew Research Center, 5.119 adultos estadounidenses, 17-23 de febrero de 2026
Los usan a diario 24%, incluido un 12% varias veces al día Pew Research Center, misma encuesta
Los usan para buscar información 42% Pew Research Center, misma encuesta
Personas empleadas que los usan para tareas de trabajo 38% Pew Research Center, misma encuesta
Los usan para consejo médico 20% Pew Research Center, misma encuesta
Los usan para apoyo o consejo emocional 10% Pew Research Center, misma encuesta
Los usan para compañía 4% Pew Research Center, misma encuesta
Creen que la IA hará menos segura su información personal 71% Pew Research Center, misma encuesta
Dicen que la IA avanza demasiado rápido 63% Pew Research Center, misma encuesta
Tareas en las que los estadounidenses juzgan que la IA rinde peor que las personas Todas las tareas estudiadas, tanto en 2023 como en 2026 Bentley University-Gallup Business in Society, 3.270 adultos estadounidenses, 4-11 de mayo de 2026, margen de error más o menos 2,4 puntos
Mayores caídas interanuales en “la IA rinde peor” Conducir un coche, 7 puntos menos; dar consejo financiero, 6 menos; dar consejo médico, 5 menos Bentley-Gallup, misma encuesta
Opinión sobre la IA dando recomendaciones de contratación Esencialmente sin cambios Bentley-Gallup, misma encuesta
Dicen que la IA ayuda a los estudiantes con los deberes mejor que las personas 29%, frente al 26% anterior Bentley-Gallup, misma encuesta

Ponga ambos conjuntos de datos uno al lado del otro y surge algo concreto.

El uso sube con fuerza y la confianza no. La mitad de los adultos estadounidenses usa estas herramientas, pero en todas las tareas que midió Bentley-Gallup siguen siendo más quienes juzgan que la IA rinde peor que las personas que quienes la ven mejor. Mientras tanto, un 20% declara usar asistentes conversacionales para consejo médico, un ámbito situado en lo más bajo de la prueba en todos los factores a la vez.

Esa combinación no es hipocresía. Es lo que ocurre cuando no existe un vocabulario compartido para el límite. La gente usa la herramienta porque es útil y está disponible, y por separado declara desconfianza porque desconfianza es la única palabra disponible. Lo que falta es el punto intermedio: “lo usé para prepararme la consulta” y “dejé que decidiera el tratamiento” son actos radicalmente distintos que ni la pregunta de la encuesta ni la conversación cotidiana saben distinguir.

También merece una lectura atenta el movimiento en las cifras de Gallup. Las tres tareas donde más mejoró el rendimiento percibido, conducir, el consejo financiero y el consejo médico, son todas de alta consecuencia y baja reversibilidad. La capacidad percibida sube más rápido precisamente donde la prueba de delegación puntúa más bajo. Capacidad y delegabilidad se mueven en direcciones opuestas, y confundirlas es el error que todo este marco está diseñado para evitar.

Fíjese también en lo que no se movió: la opinión sobre la IA dando recomendaciones de contratación quedó esencialmente igual. La intuición pública se ha mantenido firme en el único punto de la lista donde quien soporta el riesgo no es quien toma la decisión.

La regla que importa más que la puntuación

Si retiene una sola cosa, que sea esta. Puntúe primero la reversibilidad y, si es 0, deje de puntuar.

Una decisión irreversible no se redime con un buen proceso, una herramienta precisa ni una sensación de seguridad. El artículo 22 del RGPD está construido sobre esto: las garantías que exige son el derecho a obtener intervención humana, a expresar el punto de vista y a impugnar la decisión. Los tres son mecanismos para deshacer. El remedio de la norma frente a la decisión automatizada no es más automatización. Es la capacidad preservada de revertir.

Su versión personal de esa garantía es la misma. Antes de delegar nada, pregunte cómo es su deshacer. Si la respuesta honesta es que no existe, la decisión le pertenece a usted, con independencia de lo que cualquier herramienta hubiera recomendado.

La lectura de director general y la de estudiante

La mitad de director general es disciplina de delegación, la misma que se aplica a las personas. Un directivo competente no delega según la importancia aparente de la tarea. Delega según si el resultado puede inspeccionarse y corregirse, y se queda con las decisiones cuya ventana de corrección está cerrada. La prueba de cinco factores hace explícito ese instinto, con la propiedad útil de dar la misma respuesta tanto si quien recibe el encargo es una persona como si es un modelo.

La mitad de estudiante es más difícil y más importante. El factor 4 dice que su propia experiencia determina qué puede delegar, de modo que el límite no es fijo. Se mueve conforme aprende. Cada ámbito en el que construye criterio real es un ámbito en el que puede ceder más con seguridad, porque gana la capacidad de detectar el error seguro de sí mismo. Ese es el argumento contra la posición cómoda de externalizar todo lo que resulta difícil: congela el límite de forma permanente donde está.

Este artículo trata de qué decisiones ceder. La cuestión contigua de si un resultado concreto es correcto es otra habilidad, tratada en la calibración de la confianza y cuándo fiarse de las recomendaciones de IA y, en el nivel de evaluar directamente la calidad del resultado, en la habilidad de evaluación y el juicio de las salidas de IA. Para la arquitectura más amplia de decidir bien, la pila de decisión personal expone las capas en las que se inserta esta prueba, pensar en apuestas cubre la mitad probabilística que el factor de reversibilidad deja deliberadamente de lado, y la economía del criterio explica por qué esta capacidad se revaloriza en lugar de depreciarse.

Preguntas frecuentes

¿Cambia la prueba a medida que mejoran los modelos?
Solo a través del factor 2, la verificabilidad, y el factor 4, su experiencia. Reversibilidad, lo que está en juego y repetibilidad son propiedades de la decisión, no de la herramienta. Una decisión que no puede deshacerse sigue siendo indelegable por bueno que sea el modelo, y por eso el marco no necesita revisarse con cada nueva versión.

¿Y si puntúo una decisión en 7 y sale mal?
Eso es la banda funcionando como se diseñó. En la banda 5-7 la herramienta recomienda y usted decide, así que la responsabilidad es suya. Si se descubre aceptando cada recomendación sin cambiar nada, ya no está en esa banda, está en la de automatizar sin haberlo decidido. El artículo 14, apartado 4, letra b, existe justo para esa deriva.

¿La IA está siempre en la banda inferior para preguntas médicas o jurídicas?
Usarla para entender su situación, preparar preguntas y comprobar terminología es un acto distinto de dejar que decida, y solo lo segundo es una delegación de banda inferior. La distinción está en si el resultado determina la acción o informa una decisión que toma una persona cualificada.

¿Esto se aplica a agentes que actúan de forma autónoma en lugar de conversar?
Con más nitidez, porque los agentes eliminan la capacidad del artículo 14, apartado 4, letra e, la de intervenir antes de que el efecto se produzca. Un sistema que actúa en cuanto concluye ha suprimido el botón de parada, y por eso el Reglamento lo trata como requisito de diseño y no como hábito de uso. Puntúe cualquier cosa que un agente vaya a ejecutar sin supervisión al menos una banda por debajo de la misma decisión tomada en una ventana de chat.

¿Por qué lo que está en juego para otra persona puntúa menos que lo que está en juego para mí?
Porque puede consentir un riesgo que soporta usted y no puede consentir en nombre de otro. Ese es el principio detrás del anexo III, donde casi todos los ámbitos listados implican decisiones impuestas a una persona que no eligió estar en el proceso.

¿Hay algún caso para delegar una decisión irreversible?
Solo donde una persona no puede tomarla en absoluto, por ejemplo a velocidades que superan el tiempo de reacción humano, y esos son sistemas de ingeniería con sus propios regímenes de seguridad, no elecciones personales. Para alguien que decide en una ventana de chat, no.

Fuentes

Reglamento (UE) 2024/1689, Reglamento de Inteligencia Artificial, versión del Diario Oficial de 13 de junio de 2024, artículo 14 y anexo III.

Reglamento General de Protección de Datos, Reglamento (UE) 2016/679, artículo 22.

Information Commissioner’s Office, orientaciones sobre derechos relativos a decisiones automatizadas, incluida la elaboración de perfiles.

METR, Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity, publicado el 10 de julio de 2025.

Pew Research Center, Americans and AI 2026: chatbots, smart devices and views on impact, publicado el 17 de junio de 2026, encuesta a 5.119 adultos estadounidenses realizada del 17 al 23 de febrero de 2026.

Bentley University y Gallup, encuesta 2026 Bentley Business in Society, estudio web de panel Gallup de base probabilística con 3.270 adultos estadounidenses, del 4 al 11 de mayo de 2026.


Este contenido fue recopilado con el apoyo de la IA tras una investigación exhaustiva, y luego redactado y preparado para su publicación por el equipo editorial de CEOtudent.

This post is also available in: Türkçe English Français Deutsch

Benzer içerikler