Inteligencia artificial constitucional
La inteligencia artificial constitucional es la técnica, desarrollada por Anthropic, para alinear modelos de IA con valores definidos de forma explícita mediante un conjunto de principios —una constitución— que guía el comportamiento del modelo durante su entrenamiento, en lugar de depender solo de valoraciones humanas caso por caso.
El método sustituye buena parte de la retroalimentación humana por la del propio modelo, orientada por esa constitución: el sistema aprende a criticar y corregir sus respuestas según principios escritos. Así, los valores con los que se alinea quedan explícitos y son auditables.
Representa un enfoque distinto al de optimizar solo por utilidad o por preferencia humana agregada: incorpora restricciones éticas en el método de entrenamiento, no como añadido posterior. Es gobernanza inscrita en el procedimiento, no en el discurso.
Para el humanismo tecnológico, la IA constitucional resulta interesante por lo que hace visible: que alinear una IA es siempre elegir valores, y que esos valores deberían poder discutirse y verse, en lugar de quedar ocultos en parámetros opacos.
No existe normativa que exija esta técnica; es un método de entrenamiento propio de un laboratorio de IA, no un requisito legal. El AI Act europeo exige documentar las medidas de mitigación de riesgo empleadas, sin prescribir una técnica concreta.
Se aplica en el entrenamiento de modelos de lenguaje grandes para reducir la dependencia de retroalimentación humana caso por caso (RLHF) y sustituirla parcialmente por principios explícitos que el propio modelo usa para autoevaluarse.
Confundir «constitucional» con un mandato legal o constitucional en sentido jurídico.
Presentarla como la única técnica de alineamiento existente.
Asumir que elimina por completo la necesidad de supervisión humana.
- ¿Qué es la IA constitucional?
- ¿En qué se diferencia del RLHF tradicional?
- ¿Sustituye por completo a la supervisión humana?
