Instituto de Seguridad de la IA
Un Instituto de Seguridad de la IA es un organismo público especializado en evaluar técnicamente los modelos de inteligencia artificial más avanzados y sus riesgos. El primero y más conocido es el británico, creado en noviembre de 2023.
El instituto británico, hoy llamado AI Security Institute, nació tras la cumbre de Bletchley Park y se dotó de investigadores técnicos de primer nivel para examinar modelos de frontera antes de su lanzamiento, gracias a acuerdos voluntarios con los laboratorios. Estados Unidos creó un organismo equivalente, que después se reorientó, y otros países, como Japón, Canadá o Corea del Sur, siguieron el modelo. España anunció en septiembre de 2026 su propio instituto dentro de la AESIA, la agencia española de supervisión de la IA. Su eficacia depende de dos condiciones que ninguna norma garantiza del todo: acceso previo a los modelos y personal técnico capaz de evaluarlos. En septiembre de 2026, el instituto británico perdió durante diecisiete días el acceso previo a los nuevos modelos estadounidenses y lo recuperó el 11 de octubre por negociación entre Gobiernos: su acceso descansa en acuerdos voluntarios, a diferencia del que el Reglamento europeo de IA concede a la Oficina de IA de la Comisión.
Ninguno de estos institutos tiene, en general, poder sancionador propio. En la Unión Europea, la autoridad sobre los modelos de propósito general corresponde a la Oficina de IA de la Comisión; la AESIA supervisa en España los sistemas de alto riesgo.
Las publicaciones de estos institutos, como sus metodologías y evaluaciones, son una de las pocas fuentes independientes sobre las capacidades reales de los modelos que usan las empresas. Conviene consultarlas antes de adoptar un modelo nuevo en procesos críticos.
Confundirlos con reguladores con poder de sanción. Suponer que todos los modelos pasan por ellos. Y pensar que su existencia garantiza la seguridad: sin acceso previo ni personal técnico, son instituciones sin instrumento.
- ¿Qué es un Instituto de Seguridad de la IA?
- ¿Qué hace el AI Security Institute del Reino Unido?
- ¿Tiene España un instituto de seguridad de la IA?
- ¿Pueden estos institutos sancionar a las empresas de IA?
- ¿Por qué importa que tengan acceso previo a los modelos?
- ¿Qué utilidad tienen sus evaluaciones para una empresa?
