Autonomía de agencia
La autonomía de agencia es la capacidad de un sistema de IA de tomar decisiones y ejecutar acciones de forma independiente, sin supervisión humana en cada paso. Los agentes de IA —sistemas que planifican, usan herramientas y actúan en entornos reales— representan el nivel siguiente a los modelos generativos.
Un modelo generativo responde; un agente actúa: encadena objetivos, invoca herramientas externas, navega, escribe y ejecuta código y persigue una meta a lo largo de varios pasos. Esa autonomía multiplica su utilidad, pero también su capacidad de causar daño no previsto.
El salto es de gobernanza, no solo técnico. Cuando un sistema puede emprender acciones en el mundo —comprar, enviar, modificar—, la pregunta deja de ser si acierta y pasa a ser quién responde de lo que hace y con qué límites operó.
Para el humanismo tecnológico, la autonomía de agencia es el punto donde más urge decidir dónde situar al humano en el bucle. No se trata de prohibir los agentes, sino de definir de forma consciente qué pueden hacer, con qué permisos y con qué trazabilidad.
El AI Act europeo no regula la «autonomía de agencia» como categoría específica, pero los sistemas que actúan de forma autónoma en los ámbitos listados en su Anexo III —empleo, crédito, ámbitos esenciales— quedan sujetos a los requisitos de sistemas de alto riesgo, con independencia del grado de autonomía técnica.
En gobernanza corporativa de agentes de IA, el grado de autonomía de agencia determina el nivel de supervisión exigible: cuanta más autonomía —ejecución sin revisión humana previa—, mayor la necesidad de un procedimiento de parada probado y un responsable con nombre.
Desplegar agentes autónomos sin definir antes quién responde de sus acciones.
Confundir autonomía de agencia con automatización simple de tareas repetitivas.
No distinguir entre autonomía de ejecución y autonomía de objetivos.
- ¿Qué es la autonomía de agencia en un sistema de IA?
- ¿En qué se diferencia un agente de IA de un modelo generativo?
- ¿Qué exige la ley europea a los sistemas autónomos de alto riesgo?
