Alineamiento (AI alignment)

El alineamiento (AI alignment) es el campo de investigación y el conjunto de problemas técnicos y conceptuales que se ocupan de asegurar que los sistemas de inteligencia artificial actúen de forma coherente con los valores, las intenciones y los objetivos de los seres humanos que los diseñan, los despliegan o los habitan. La pregunta es vieja —se planteó en términos prefiguradores en Norbert Wiener y en Stuart Russell— pero la urgencia es nueva: con la llegada de los modelos fundacionales de gran escala, la distancia entre lo que se le pide a un sistema y lo que el sistema termina haciendo se ha vuelto un problema de gobierno, no solo de ingeniería.

El campo distingue varios niveles. El alineamiento externo (outer alignment) trata de definir correctamente el objetivo que se quiere que el sistema persiga. El alineamiento interno (inner alignment) trata de que el sistema, una vez entrenado, persiga efectivamente ese objetivo y no otro emergente que se le parezca. Specification gaming, reward hacking, deceptive alignment y mesa-optimization son nombres técnicos para fallos específicos en estos niveles. Laboratorios como Anthropic, MIRI, Redwood Research y los equipos de seguridad de OpenAI, DeepMind y otros trabajan activamente en el problema, con resultados parciales y debate abierto sobre su tratabilidad última.

Para el humanismo tecnológico, el problema del alineamiento es más que técnico: es civilizacional. Tres preguntas previas atraviesan toda discusión sustantiva. ¿Alinear con qué valores? No hay una lista universalmente aceptada. ¿Decididos por quién? Los laboratorios privados que entrenan los modelos son hoy los que, de facto, codifican respuestas a esa pregunta. ¿Bajo qué legitimidad? No la electoral, no la deliberativa, no la representativa. La pregunta sobre el alineamiento se transforma así, vista desde la doctrina, en una pregunta sobre la gobernanza algorítmica de quienes deciden. Sin alineamiento robusto, los modelos fundacionales son tecnología-infraestructura sin gobierno legitimado.

El Reglamento (UE) 2024/1689 (AI Act), art. 55, exige a los proveedores de modelos de IA con riesgo sistémico evaluar y mitigar riesgos, lo que incluye de facto medidas de alineamiento técnico, sin usar ese término de forma explícita en el texto legal.

En evaluación de proveedores de IA, obliga a preguntar qué técnicas de alineamiento —RLHF, IA constitucional, red-teaming— aplica un modelo antes de integrarlo en procesos donde sus respuestas afectan a terceros.

Asumir que un modelo alineado no puede producir resultados erróneos o dañinos, cuando el alineamiento reduce el riesgo sin eliminarlo.
Tratar el alineamiento como problema resuelto en vez de campo de investigación activo.
Confundir alineamiento técnico con alineamiento legal o regulatorio, cuestiones relacionadas pero distintas.

• ¿Qué es el alineamiento de IA (AI alignment)?
• ¿Quiénes plantearon sus antecedentes conceptuales?
• ¿Qué exige el AI Act en relación con este problema?