Escuchar el artículo
Delegas decisiones en agentes de IA. ¿Sabrías apagarlos?
Durante dos años, la inteligencia artificial en la empresa fue, sobre todo, un consejero. Sugería un texto, proponía una respuesta, recomendaba un precio. La última palabra seguía siendo humana. En 2026 eso ha cambiado de naturaleza: han llegado los agentes. Un agente no recomienda; actúa. No te propone escribir al cliente: le escribe. No sugiere un pedido: lo lanza. La diferencia no es de grado, es de categoría. Hemos pasado de una IA que aconseja a una IA que ejecuta.
Y con ella llega una pregunta que casi nadie en la mesa se está haciendo, porque suena a ciencia ficción hasta que deja de serlo: si uno de esos agentes se descontrola —un bucle, un dato envenenado, una instrucción mal entendida—, ¿quién lo detiene? ¿Sabrías, ahora mismo, apagarlo?
Capacidad sin gobierno
Los datos de 2026 dibujan el problema con crudeza. Los agentes ya están en producción en la mayoría de las organizaciones que los han probado, pero solo entre un 12 % y un 21 % tiene un modelo de gobernanza maduro para ellos. Y el dato que debería quitar el sueño a cualquier directivo: alrededor de un tercio admite que no podría detener un agente descontrolado si apareciera. La capacidad se ha desplegado a velocidad de software; la capacidad de gobernarla sigue a velocidad de reunión.
Esto es, exactamente, el fenómeno central de la era pre-singularidad: no que las máquinas sean malignas, sino que llegan más rápido de lo que podemos comprenderlas, evaluarlas y controlarlas. Un agente en producción sin un botón de parada no es una anécdota técnica. Es una decisión —enorme— que nadie tomó conscientemente.
El botón que nadie instaló
Mira la consola de arriba. No es una distopía: es la foto plausible de una pyme que adoptó cuatro agentes en un trimestre porque venían con sus herramientas. Cada uno ejecuta decisiones reales —precios, mensajes, pedidos, publicaciones— sin revisión humana. Y cuando se pide detenerlos a todos, la respuesta es la que más se repite en la realidad: no hay kill-switch, no hay responsable. El sistema corre. Nadie sabe cómo pararlo.
Gobernar un agente se reduce a una prueba simple, casi física: ¿puedes apagarlo? Si la respuesta es no, no tienes una herramienta: tienes un inquilino con llaves de tu casa. Y da igual lo bien que trabaje mientras todo va bien; su valor real se mide el día que va mal.
Qué exige gobernar un agente
No hace falta un comité ni una consultora. Hacen falta tres respuestas, por escrito, antes de poner un agente a decidir.
Qué agentes operan. Un inventario vivo: qué actúa de forma autónoma, dónde y desde cuándo. Lo que no está en la lista no se puede gobernar.
Quién responde. Cada agente, como cada empleado, necesita un nombre humano detrás. Sin responsable, la rendición de cuentas se evapora en el momento en que más se necesita.
Cómo se detiene. Un procedimiento de parada probado —no teórico— para cada agente y para todos a la vez. Un botón de emergencia que nadie ha pulsado nunca es un botón que no existe.
La deuda de criterio, con intereses
Delegar una decisión en un agente que no sabes parar es la forma más pura de deuda de criterio: hoy ahorra trabajo, mañana cobra el principal de golpe. Porque un error humano se detiene con una conversación; un agente descontrolado se detiene solo si alguien, antes, tuvo el criterio de instalar el freno.
La promesa de los agentes es real y la voy a firmar: liberan tiempo, escalan, no se cansan. Pero la autonomía sin gobierno no es eficiencia, es exposición. En la era pre-singularidad, la pregunta que separa a quien manda de quien es mandado no es «¿qué puede hacer este agente por mí?». Es «¿sabría apagarlo?». Contéstala hoy, con la máquina encendida. No el día que necesites la respuesta.
— Gobernar la tecnología antes de que la tecnología te gobierne.
Jesús Ripa es tecnólogo humanista especializado en Autoridad Digital. Escribe sobre criterio tecnológico, voz pública directiva y la era pre-singularidad.
Una carta al mes. Nada más.
Un análisis, una idea y un término del glosario. Doble confirmación y baja en un clic.