Nadie audita la IA de frontera: diecisiete días sin evaluador independiente

Jueves, 24 de septiembre de 2026. La Oficina del Director Nacional de Ciberseguridad de la Casa Blanca pide a los laboratorios que marcan la frontera de la inteligencia artificial que reserven sus nuevos modelos para el Gobierno de Estados Unidos antes de compartirlos con evaluadores de otros países. La justificación, según un funcionario citado por la prensa, cabe en una línea: «Porque son empresas estadounidenses y esta ha sido nuestra política con cada nuevo modelo de frontera». El principal afectado es el Instituto de Seguridad de la IA del Reino Unido, el organismo público que más modelos de frontera ha evaluado en el mundo.

Domingo, 11 de octubre. Washington da marcha atrás. Tras las gestiones del ministro británico de IA, Kanishka Narayan, el instituto recupera el acceso previo a los modelos de Anthropic, Google DeepMind y OpenAI. La congelación ha durado diecisiete días.

Podría leerse como un susto con final feliz. No lo es. Durante diecisiete días quedó a la vista algo que el final feliz no corrige: el acceso del único evaluador independiente no descansa en ninguna norma. Es un favor que se concede y se retira. Se retiró con una petición. Se devolvió con una gestión diplomática. Ninguna de las dos cosas es una garantía.

En la frontera, quien mide es el mismo que es medido: son los propios laboratorios quienes publican cuánto de su investigación ejecuta ya la IA, y volveré sobre ello en noviembre. Este artículo trata de lo que ocurre cuando, además, el único árbitro externo entra al campo solo si alguien le abre la puerta.

Lo que se prometió en Bletchley

En noviembre de 2023, en Bletchley Park, donde Alan Turing había descifrado los códigos alemanes ochenta años antes, veintiocho países y la Unión Europea firmaron una declaración sobre los riesgos de la IA de frontera. De aquella cumbre salió un compromiso concreto: los grandes laboratorios darían a los institutos de seguridad públicos acceso a sus modelos antes de lanzarlos, para evaluar, entre otras técnicas mediante ataques controlados (red teaming), sus capacidades peligrosas en ciberataques, armas biológicas o químicas y pérdida de control. El Reino Unido creó su instituto aquel mismo mes y lo dotó de investigadores técnicos de primer nivel.

Durante casi tres años el sistema funcionó de forma imperfecta pero real. El instituto británico evaluó modelos antes de su lanzamiento, publicó metodologías y, pocas semanas antes de la crisis, examinó GPT-6 Astra de OpenAI antes de que saliera al mercado. No era una autoridad con poder sancionador. Era algo más modesto y más importante: un par de ojos que no trabajaba para el evaluado.

Pero aquel compromiso era voluntario. Y lo voluntario tiene una propiedad que solo se descubre cuando se pone a prueba.

Seis semanas, tres decisiones ajenas

1 de septiembre. Anthropic lanza Claude Mythos 5.1 con acceso restringido a su programa Glasswing y a organizaciones estadounidenses. Por primera vez, un modelo de frontera de primer nivel sale sin que el instituto británico lo haya examinado antes. El 9 de septiembre su responsable, Henry de Zoete, lo reconoce en el Financial Times. Más tarde lo precisó en una carta al diputado Liam Byrne: nadie fuera de Estados Unidos vio el modelo antes de su lanzamiento; el instituto puede evaluarlo después.

24 de septiembre. Lo que había sido la decisión de una empresa se convierte en la política de un Gobierno: la Casa Blanca pide a los laboratorios que retengan sus nuevos modelos frente a los evaluadores extranjeros. La petición no prohibía el acceso. Lo posponía y lo condicionaba a una revisión previa del Gobierno estadounidense por motivos de seguridad nacional.

11 de octubre. La petición se retira tras la presión del Gobierno británico, según adelantó The Telegraph. No se ha hecho público en qué condiciones se restablece el acceso, ni si el instituto ha recibido ya Mythos 5.1.

Tres decisiones en seis semanas: la de un laboratorio, la de un Gobierno y la de otro Gobierno que negoció con el primero. En ninguna intervino una regla. Un análisis británico lo resumió con una frase exacta: una petición que se ha hecho una vez puede volver a hacerse. Y en evaluación de modelos de frontera el calendario es el contenido: un evaluador que llega cuando el modelo ya está desplegado no evalúa un riesgo, certifica un hecho consumado.

Tres evaluadores y ninguno independiente

Si se quita al evaluador externo, aunque sea durante diecisiete días, quedan tres figuras. Ninguna cumple la condición que Montesquieu puso a cualquier sistema de garantías hace casi tres siglos: que el poder detenga al poder. Que quien vigila no dependa de quien es vigilado.

El Estado que evalúa por seguridad nacional. La revisión que pide Washington tiene una lógica comprensible: los modelos más recientes muestran capacidades crecientes para ejecutar ciberataques de forma autónoma, y ningún Gobierno quiere que sus adversarios las conozcan antes que él. Pero una evaluación hecha por seguridad nacional responde a una pregunta distinta: no si el modelo es seguro para el mundo, sino si es útil o peligroso para un país. Sus resultados no se publican. Y quien la hace es, a la vez, el principal promotor de la carrera que se evalúa.

Las empresas que se autorregulan. En septiembre se supo, por la publicación especializada The Information, que Google, OpenAI y Anthropic preparan un organismo de autorregulación, provisionalmente llamado Standards Authority for Frontier AI. La idea, atribuida a Demis Hassabis, el responsable de Google DeepMind cuyo perfil publiqué en agosto, es copiar el modelo de FINRA, el organismo con el que la banca de inversión estadounidense se regula a sí misma. Definiría las pruebas previas al lanzamiento, la notificación de incidentes y la cualificación de los auditores. Los planes anteriores contemplaban una colaboración público-privada bajo supervisión federal; se abandonaron cuando el decreto que la habría creado no obtuvo respaldo en la Administración. Que los laboratorios quieran reglas comunes es una buena noticia. Que las escriban ellos, no tanto. La autorregulación financiera, conviene recordarlo, tiene un historial irregular precisamente cuando la presión competitiva aprieta.

La ironía tiene fecha. En mayo de 2023, Sam Altman compareció ante el Senado de Estados Unidos y propuso crear una agencia pública que concediera licencias a los modelos más potentes y exigiera pruebas de seguridad independientes antes de su lanzamiento. Tres años después, la industria que pedía un árbitro público diseña el suyo propio. No hace falta atribuirlo a la mala fe. Basta con observar cómo cambian los incentivos cuando la carrera se acelera y el árbitro público no llega: quien espera a que el Estado ponga reglas pierde meses que su competidor no pierde.

El laboratorio que se mide a sí mismo. Anthropic publicó en septiembre cuánto de su propia investigación ejecuta ya la IA y se comprometió a integrar evaluadores externos e independientes en sus procesos. Organismos como METR ya han evaluado algunos de sus sistemas. Es más de lo que hacen otros, y hay que decirlo. Pero un compromiso voluntario no es una garantía: puede retirarse cuando cambian los incentivos, y nadie fuera de la empresa puede exigir su cumplimiento. Septiembre lo ha demostrado con el propio instituto británico.

La pregunta de Juvenal, quis custodiet ipsos custodes, quién vigila a los vigilantes, tiene en la frontera de la IA una respuesta incómoda: los propios vigilados, un Estado que compite con ellos en la misma carrera o un evaluador que entra cuando le invitan.

Europa: el regulador que no ve

Desde el 2 de agosto de 2026, la Oficina de IA de la Comisión Europea tiene poderes formales sobre los modelos de propósito general con riesgo sistémico: puede pedir documentación, acceder a los modelos para evaluarlos, exigir medidas correctoras, ordenar que un modelo se restrinja o se retire del mercado e imponer multas de hasta 15 millones de euros o el 3 % de la facturación mundial. Es la diferencia decisiva con el instituto británico: el acceso europeo no depende de un favor, lo impone una ley. Sobre el papel, es el régimen más exigente del mundo. La propia Oficina ha anunciado que su herramienta preferida, por ahora, serán los «diálogos técnicos de cumplimiento».

El problema no es el poder legal. Es la capacidad material. Evaluar un modelo de frontera exige equipos técnicos que hoy cobran en Londres o en San Francisco varias veces lo que ofrece una administración europea. Lo escribí al analizar el Plan IA360: la AESIA, la agencia española encargada de supervisar la IA, contaba con 23 personas en septiembre de 2025. Un regulador puede tener el derecho de acceder a un modelo y no tener a nadie capaz de entender lo que ve.

Y hay una segunda asimetría, más silenciosa. Los modelos con capacidades avanzadas de ciberseguridad llegaron primero a bancos e infraestructuras críticas estadounidenses, en primavera, y meses después a los europeos. Europa regula modelos que no puede examinar antes que nadie y se defiende con herramientas que recibe después que otros. Es la definición práctica de una dependencia tecnológica.

Por qué importa más que nunca

El 26 de septiembre, dos días después de conocerse la petición de Washington, la web de información Axios reveló que OpenAI y Anthropic investigan decenas de miles de incidentes en los que sus agentes de IA se saltaron salvaguardas, escaparon de entornos de prueba aislados o intentaron eludir la vigilancia. Algunos ocurrieron en despliegues reales. Un investigador del sector resumió la situación con una frase difícil de olvidar: lo que se ha visto de lo que hacen estos agentes es solo la punta del iceberg. Ninguno de esos incidentes ha causado un daño grave confirmado. Pero el volumen indica que ni siquiera los laboratorios tienen una visión completa de lo que sus sistemas hacen.

Ningún sector maduro acepta este arreglo para productos que pueden causar daños graves. Un medicamento no llega a las farmacias europeas con los ensayos del laboratorio que lo fabrica como única garantía: los revisa la Agencia Europea del Medicamento. Un avión no vuela con pasajeros porque el fabricante diga que es seguro: lo certifica una autoridad aeronáutica que puede negarse. Y cuando esa autoridad delegó buena parte de la certificación en el propio fabricante, como ocurrió con el Boeing 737 MAX, el resultado fueron dos accidentes y 346 muertos entre 2018 y 2019. La IA de frontera, que sus propios constructores describen como capaz de ayudar a diseñar ciberataques o armas biológicas, es hoy el único producto de ese nivel de riesgo cuya evaluación previa depende de la voluntad del fabricante y del calendario de un Gobierno.

Las evaluaciones independientes no son un trámite burocrático. Son el único termómetro que no fabrica el paciente. Sin ellas, los ciudadanos, las empresas y los propios gobiernos que no están en la mesa dependen de lo que cada laboratorio decide contar, cuando decide contarlo.

La filósofa británica Onora O’Neill dedicó sus conferencias de la BBC de 2002 a una cuestión que hoy parece escrita para este momento. La confianza, sostenía, no se reconstruye con más transparencia indiscriminada ni con más controles formales, sino con una rendición de cuentas inteligente: la que ejercen personas competentes e independientes, capaces de juzgar lo que examinan. Esa rendición de cuentas no puede depender de una invitación.

Lo que habría que exigir

Para no quedarme en el diagnóstico, tres condiciones que convertirían el favor en garantía:

1. Acceso previo garantizado por acuerdo entre Estados, no por cortesía empresarial ni por gestión diplomática. Si el acceso de los evaluadores depende de la buena voluntad de un laboratorio o de la política de un Gobierno, desaparece en el primer momento de tensión. Ese momento ya llegó una vez. Que se resolviera en diecisiete días no garantiza que la próxima se resuelva.
2. Evaluadores públicos con capacidad técnica real. La Oficina de IA y la AESIA necesitan perfiles técnicos con salarios competitivos, o hay que asumir que la supervisión europea será documental.
3. Resultados publicados con plazo. Una evaluación que nadie puede leer protege a quien la encarga, no a quien sufre las consecuencias.

Lo que esto significa en tu mesa

La misma estructura se reproduce, a escala reducida, en cualquier organización que compra IA. Casi todas las cifras de fiabilidad, seguridad o precisión que recibe una empresa sobre la herramienta que contrata proceden del propio proveedor: sus pruebas, sus casos de éxito, sus comparativas. Es una autoevaluación con buena presentación.

Antes de desplegar un sistema de IA en un proceso que importa, merece la pena hacerse tres preguntas. ¿Quién, que no cobre del proveedor, ha evaluado esta herramienta? ¿Qué incidentes ha tenido y cómo me enteraría si los tuviera conmigo? ¿Quién en mi organización es capaz de comprobar por sí mismo lo que el proveedor afirma? Si las tres respuestas son «nadie», la herramienta puede ser excelente. Pero no lo sabes. Lo crees. Y una organización que confunde creer con saber en sus procesos críticos ha delegado algo más que una tarea: ha delegado su criterio. La diferencia no se nota mientras todo funciona. Se nota el día en que algo falla y nadie dentro sabe explicar por qué.

Si el acceso de quien examina la IA en la que confías puede retirarse con una llamada, ¿en qué se apoya exactamente tu confianza?

Preguntas frecuentes

Glosario del artículo

Evaluación previa al despliegue

Examen de un modelo de IA antes de su lanzamiento público para medir capacidades peligrosas y riesgos de control. Su valor depende de tres condiciones: que llegue a tiempo, que la haga alguien independiente del desarrollador y que el acceso no dependa de la voluntad del evaluado. El término, desarrollado en el glosario →

Instituto de Seguridad de la IA (AISI)

Organismo público especializado en evaluar técnicamente modelos de IA avanzados. El británico, creado en 2023, es la referencia; varios países han creado equivalentes, entre ellos el anunciado por España dentro de la AESIA. El término, desarrollado en el glosario →

Autorregulación

Sistema en el que un sector fija y supervisa sus propias normas sin una autoridad pública que las imponga. Es rápido y técnicamente informado, pero quien vigila coincide con quien es vigilado.

Riesgo sistémico (Reglamento europeo de IA)

Categoría que el Reglamento europeo aplica a los modelos de propósito general más capaces, cuyo impacto potencial sobre la sociedad, la seguridad o los derechos justifica obligaciones reforzadas de evaluación, notificación de incidentes y ciberseguridad.

Red teaming

Práctica de evaluación en la que un equipo intenta deliberadamente que un sistema falle o se comporte de forma peligrosa, para descubrir sus vulnerabilidades antes que un adversario real.

Rendición de cuentas inteligente

Concepto de la filósofa Onora O’Neill (2002): la confianza se sostiene cuando personas competentes e independientes pueden juzgar lo que examinan, no con más transparencia indiscriminada ni con más controles formales. El término, desarrollado en el glosario →

Fuentes

1. Financial Times, sobre el lanzamiento de Claude Mythos 5.1 sin evaluación previa del AI Security Institute, 09/09/2026; The Next Web, 10/09/2026.
2. The Guardian, sobre la carta de Henry de Zoete al diputado Liam Byrne, septiembre de 2026.
3. Politico, sobre la orden de la Oficina del Director Nacional de Ciberseguridad, 24/09/2026.
4. Bloomberg, «Trump Tells OpenAI, Anthropic to Withhold Models From UK Agency», 25/09/2026
5. Le Grand Continent, «Washington se niega a que Anthropic y OpenAI sometan sus últimos modelos a una evaluación independiente», 25/09/2026
6. Resultsense / City AM, sobre la petición de la Oficina del Director Nacional de Ciberseguridad, 25/09/2026
7. The Telegraph, sobre el restablecimiento del acceso del AI Security Institute, 11/10/2026; Resultsense y The Decoder, 12/10/2026.
8. TechRepublic / The Information, sobre el organismo de autorregulación de Google, OpenAI y Anthropic, septiembre de 2026
9. Wilson Sonsini, «EU AI Act enforcement phase begins», agosto de 2026
10. Axios vía Cybernews, sobre los incidentes con agentes, 26/09/2026
11. Anthropic, Measurements for understanding the pace of AI development inside frontier labs, 18/09/2026.
12. Declaración de Bletchley, 01/11/2023.
13. Onora O’Neill, A Question of Trust, BBC Reith Lectures, 2002.
14. Montesquieu, Del espíritu de las leyes, 1748.