Escalado responsable
El escalado responsable es la familia de políticas por las que un desarrollador de sistemas de IA condiciona el aumento de las capacidades de sus modelos a evaluaciones de riesgo y salvaguardas verificables previas, en lugar de desplegar cada nueva generación de capacidad sin comprobación previa. El marco más citado —la Responsible Scaling Policy— fue formulado y adoptado por Anthropic en 2023; laboratorios como OpenAI y Google DeepMind han publicado marcos análogos bajo nombres propios (Preparedness Framework, Frontier Safety Framework).
Estas políticas funcionan por niveles de capacidad: a medida que un modelo demuestra capacidades de mayor riesgo potencial —por ejemplo en ciberseguridad ofensiva o en el desarrollo de armas—, el laboratorio se compromete a activar salvaguardas técnicas y operativas proporcionales antes de desplegarlo o de entrenar la siguiente generación.
El punto débil señalado por sus críticos es que son compromisos voluntarios, autoevaluados y sin mecanismo externo de verificación obligatoria: dependen de que el propio laboratorio cumpla lo que se ha comprometido a cumplir, sin que exista todavía, a nivel internacional, una autoridad independiente equivalente que audite esas evaluaciones de forma vinculante.
No existe obligación legal de adoptar una política de escalado responsable; son compromisos voluntarios de la industria. El AI Act europeo impone, para modelos de propósito general con riesgo sistémico (art. 55), obligaciones de evaluación de riesgo que se solapan parcialmente con lo que estas políticas cubren de forma voluntaria.
Como referencia de gobernanza, el marco es trasladable —a otra escala— a cualquier empresa que despliegue sistemas de IA propios o de terceros: condicionar el aumento de autonomía o de alcance de un sistema a una evaluación previa, en vez de ampliarlo simplemente porque la tecnología lo permite.
Tratar el escalado responsable como garantía suficiente, cuando es un compromiso voluntario y autoevaluado.
Confundirlo con una obligación legal uniforme, cuando varía de un laboratorio a otro.
Ignorar que existen marcos equivalentes en varios laboratorios, no solo en uno.
- ¿Qué es el escalado responsable?
- ¿Quién formuló la primera política de este tipo?
- ¿Es una obligación legal o un compromiso voluntario?
- ¿Qué otros laboratorios tienen marcos equivalentes?
