Blog›Automatización

Qué debe aprobar una persona y qué puede hacer solo un agente

Revisarlo todo no funciona, y dejarlo todo solo tampoco. Lo que dice la investigación sobre dónde poner la aprobación humana cuando se delega en un agente de IA.

Equipo Neural Fabrik5 min de lectura
Qué debe aprobar una persona y qué puede hacer solo un agente

La respuesta habitual al riesgo de un agente de IA es «que lo revise una persona». La investigación sobre automatización lleva décadas mostrando que revisarlo todo no funciona, y da pistas sobre dónde poner la revisión.

La autonomía no es un interruptor

El marco clásico describe la automatización como una escala, no como un sí o un no. Esa escala se ajusta por separado en cuatro funciones: recoger información, analizarla, decidir y ejecutar. Un sistema puede ser muy autónomo recogiendo datos y nada autónomo ejecutando (Parasuraman, Sheridan y Wickens, 2000).

Entre los criterios que proponen para fijar el nivel en cada función está el coste de las consecuencias de cada decisión o acción. Es el mejor respaldo académico para una idea sencilla: la línea se pone según lo que pasa si sale mal.

Un trabajo reciente lo traduce al vocabulario de los agentes con cinco papeles posibles para la persona: operar, colaborar, asesorar, aprobar u observar (Feng, McDonald y Zhang, 2025).

Por qué no sirve revisarlo todo

  • Quien supervisa acaba confiando. La complacencia aparece en principiantes y en expertos y no se corrige con la práctica. El sesgo de automatización, que es dar por bueno lo que propone la máquina, tampoco se evita con formación ni con instrucciones (Parasuraman y Manzey, 2010).
  • Empeora con carga de trabajo y prisa. Lo concluye una revisión de 74 estudios, que también señala qué ayuda: subrayar la responsabilidad de quien decide y mostrar información en lugar de una recomendación ya hecha (Goddard, Roudsari y Wyatt, 2012).
  • La gente revisa menos con el tiempo. En datos de uso real publicados por un proveedor, el 20 % de las sesiones de usuarios nuevos lo aprueba todo automáticamente, y más del 40 % entre los experimentados (Anthropic, 2026).
  • Persona más IA no siempre suma. Un metaanálisis de 106 experimentos encontró que, de media, la combinación rinde peor que el mejor de los dos por separado. Hubo pérdidas en tareas de decisión y ganancias en creación de contenido (Vaccaro, Almaatouq y Malone, 2024).

Un análisis de 41 políticas públicas que exigen supervisión humana concluye que, tal como suelen plantearse, las personas no consiguen ejercerla y que dan una falsa sensación de seguridad (Green, 2022).

Qué pasa cuando no hay nadie

Dejarlo todo solo tampoco funciona.

  • En una empresa simulada, el mejor agente completó por su cuenta el 30 % de las tareas, y las más largas quedaron fuera de su alcance (Xu y otros, 2024). Es un entorno de laboratorio, con modelos de 2024 y 2025.
  • La fiabilidad cae con la duración. Los mejores modelos de principios de 2025 completaban con un 50 % de acierto tareas de unos 50 minutos; ese horizonte se dobla aproximadamente cada siete meses (Kwa y otros, METR, 2025). Son tareas de programación, y los autores advierten de que no está claro cuánto se generaliza.
  • En una tienda real, un agente gestionó solo un pequeño punto de venta. Sus autores concluyeron que no lo contratarían: indicó a clientes una cuenta de pago que se había inventado y vendió con pérdidas (Anthropic, 2025).

Dónde poner la línea

Ese mismo estudio de uso real midió que solo el 0,8 % de las acciones de los agentes eran irreversibles. Su ejemplo es enviar un correo a un cliente. Si lo que no se puede deshacer es una parte tan pequeña, ahí puede concentrarse la atención de una persona sin agotarla.

Hay que decirlo con claridad: ningún estudio demuestra que la irreversibilidad sea el mejor criterio. Es un principio de diseño, coherente con el marco de 2000 y con el Reglamento europeo de IA. Para los sistemas de alto riesgo, su artículo 14 pide que la supervisión sea proporcional al riesgo y a la autonomía, que quien supervisa conozca la tendencia a confiar de más, y que pueda descartar o revertir un resultado y detener el sistema.

Un agente de marketing o de facturación no suele ser de alto riesgo. El artículo sirve de referencia, no de obligación.

En la práctica

  • Pocas aprobaciones, reservadas a lo que no tiene vuelta atrás: publicar, enviar a un cliente, pagar, tocar un sistema en producción.
  • Cada aprobación muestra qué se va a hacer y con qué datos, no solo un botón de aceptar.
  • Lo demás se revisa después, por muestreo, y lo que falla vuelve a pasar por aprobación.

En Neural Fabrik los agentes trabajan así: lo rutinario lo hacen solos y lo que tiene consecuencias espera a una persona. No elimina el error, y la evidencia de arriba explica por qué ningún diseño lo hace.

Fuentes

  • Parasuraman, Sheridan y Wickens (2000). «A model for types and levels of human interaction with automation». IEEE Transactions on Systems, Man, and Cybernetics A 30(3). Enlace
  • Feng, McDonald y Zhang (2025). «Levels of Autonomy for AI Agents». arXiv:2506.12469
  • Parasuraman y Manzey (2010). «Complacency and Bias in Human Use of Automation». Human Factors 52(3). Enlace
  • Goddard, Roudsari y Wyatt (2012). «Automation bias: a systematic review». JAMIA 19(1). Enlace
  • Anthropic (2026). «Measuring AI agent autonomy in practice»
  • Vaccaro, Almaatouq y Malone (2024). «When combinations of humans and AI are useful». Nature Human Behaviour 8. Enlace
  • Green (2022). «The flaws of policies requiring human oversight of government algorithms». arXiv:2109.05067
  • Xu y otros (2024). «TheAgentCompany». arXiv:2412.14161
  • Kwa y otros, METR (2025). «Measuring AI Ability to Complete Long Software Tasks». arXiv:2503.14499
  • Anthropic (2025). «Project Vend: Can Claude run a small shop?»
  • Reglamento (UE) 2024/1689, artículo 14. Texto oficial

Quieres ver como funcionaria en tu empresa?

Te preparamos una demo personalizada con datos de ejemplo de tu sector.

Solicitar propuesta