Evaluación previa al despliegue
La evaluación previa al despliegue es el examen de un modelo de inteligencia artificial antes de su lanzamiento público, para medir sus capacidades peligrosas y los riesgos de pérdida de control. Su valor depende de que llegue a tiempo y de que la haga alguien independiente del desarrollador.
Desde la cumbre de Bletchley Park de noviembre de 2023, los grandes laboratorios se comprometieron a dar acceso previo a sus modelos a institutos públicos de seguridad. La evaluación combina pruebas automatizadas de capacidades (ciberataques, conocimientos biológicos y químicos, autonomía), ataques controlados por equipos especializados (red teaming) y análisis del comportamiento del modelo. En septiembre de 2026, el instituto británico no pudo examinar Claude Mythos 5.1 antes de su lanzamiento y, tras una petición de la Casa Blanca, perdió durante diecisiete días el acceso previo a los nuevos modelos estadounidenses; lo recuperó el 11 de octubre, por negociación entre Gobiernos y sin norma que lo garantice. Una evaluación que llega después del lanzamiento ya no previene: documenta.
El Reglamento europeo de IA obliga a los proveedores de modelos de propósito general con riesgo sistémico a evaluar sus modelos, incluidas pruebas adversarias, y desde el 2 de agosto de 2026 la Oficina de IA puede acceder a ellos para evaluarlos.
Una empresa que despliega IA en procesos relevantes puede aplicar la misma lógica a su escala: probar el sistema con casos reales antes de escalar, pedir evaluaciones de terceros y no aceptar como evaluación lo que es autoevaluación del proveedor.
Confundirla con las pruebas de calidad o rendimiento. Darla por hecha porque el proveedor publica resultados. Y suponer que una evaluación vale para siempre, cuando cada actualización del modelo la deja parcialmente obsoleta.
- ¿Qué es la evaluación previa al despliegue de un modelo de IA?
- ¿Qué se mide antes de lanzar un modelo de frontera?
- ¿Quién evalúa los modelos de IA antes de su lanzamiento?
- ¿Qué cambió en septiembre de 2026 en la evaluación de modelos?
- ¿Qué exige el Reglamento europeo de IA sobre la evaluación?
- ¿Cómo puede una empresa evaluar la IA que contrata?
