La IA que se diseña a sí misma: quién firma cuando la máquina construye a la siguiente

Viernes, 18 de septiembre de 2026. Anthropic, uno de los tres laboratorios que hoy marcan la frontera de la inteligencia artificial, publica un documento con un título de manual técnico: Measurements for understanding the pace of AI development inside frontier labs. Mediciones para entender el ritmo del desarrollo de la IA dentro de los laboratorios de frontera. No hubo rueda de prensa ni presentación en un escenario. Había una tabla, y en la tabla una cifra que conviene leer despacio: en agosto, su propio modelo, Claude, dirigía el 26 % del trabajo de investigación y desarrollo con el que la empresa construye sus siguientes modelos. En febrero esa proporción no llegaba al 1 %.

Siete meses. De menos del uno a más del veinticinco.

Leí el informe dos veces. La primera, como tecnólogo: buscando la metodología, el tamaño de la muestra, lo que mide y lo que deja fuera. La segunda, como alguien que lleva más de treinta y cinco años viendo cómo las organizaciones delegan decisiones en sistemas que no terminan de entender. La segunda lectura es la que motiva este artículo. Porque lo que el informe describe no es una mejora de productividad. Es el primer tramo medido de un proceso que la literatura llevaba sesenta años anunciando: la máquina empieza a construir a la máquina.

No voy a sostener que la singularidad sea inminente. No hace falta. Lo que aquí se discute es más inmediato y más incómodo: en esta antesala, cuando la IA hace la mayor parte del trabajo y el humano firma al final, ¿quién está decidiendo realmente?

Qué se ha medido exactamente

Conviene ser preciso, porque en este tema la exageración y el desdén son igual de baratos.

Anthropic usa una escala de seis niveles de automatización, tomada del instituto independiente Epoch AI. En el nivel 0 la IA no participa. En el 2 asiste. En el nivel 3 colabora: hace grandes bloques de trabajo bajo dirección humana cercana. En el nivel 4 lidera: una persona fija el objetivo, supervisa y valida, y la IA ejecuta la tarea de principio a fin. En el nivel 5 la IA identifica el problema, lo define, lo resuelve, lo prueba y lo implanta sin intervención humana.

Los datos de agosto de 2026: más del 90 % del trabajo de I+D medido está en el nivel 3 o por encima; el 26 % está en el nivel 4; ningún subconjunto medido está en el nivel 5. En su plataforma interna más usada trabajaban en paralelo unos 30.000 agentes de IA haciendo tareas de investigación e ingeniería. El sistema de supervisión revisa el cien por cien de sus acciones, en tiempo real o después; en el periodo analizado bloqueó una de cada 47.000 decisiones y marcó para revisión humana una o dos transcripciones de cada mil.

OpenAI había publicado doce días antes su propia radiografía. Dice haber alcanzado la fase de «investigador en prácticas automatizado», un sistema capaz de llevar a cabo tareas de investigación bien definidas que a un investigador experimentado le llevarían días, y fija como horizonte un investigador de IA plenamente automatizado hacia marzo de 2028.

Hay que leer estas cifras con dos cautelas. La primera la reconoce el propio informe: es una instantánea de una semana, no una tendencia consolidada. La segunda no la puede reconocer nadie desde dentro: quien mide es el mismo que es medido. El laboratorio que construye el modelo es el que clasifica qué parte del trabajo dirige el modelo. A Anthropic hay que reconocerle que publica el dato y que se compromete a abrir sus métricas a evaluadores externos. Pero un dato publicado no es un dato auditado. Lo analicé en octubre en Nadie audita la IA de frontera, porque es la grieta por la que se escapa casi toda la gobernanza de la frontera.

Una frase de 1965

En 1965, el matemático británico Irving John Good, que había trabajado con Alan Turing descifrando códigos en Bletchley Park, escribió un párrafo que hoy se cita a menudo en los laboratorios de IA. Si se construye una máquina capaz de superar cualquier actividad intelectual humana, y diseñar máquinas es una de esas actividades, esa máquina podrá diseñar otras mejores. Habría entonces una «explosión de inteligencia», y la primera máquina ultrainteligente sería el último invento que el ser humano necesitaría hacer. Good añadió una condición que casi nadie recuerda: siempre que la máquina sea lo bastante dócil como para decirnos cómo mantenerla bajo control.

Vernor Vinge popularizó en 1993 el nombre que hoy damos a esa intuición: singularidad tecnológica. Durante tres décadas fue materia de ensayo y de ciencia ficción. Lo que cambia en septiembre de 2026 no es la idea. Es que por primera vez hay una curva medida del primer tramo del bucle: la IA no se rediseña sola, pero ya ejecuta de principio a fin una cuarta parte del trabajo con el que se fabrica a su sucesora.

Los propios constructores hace tiempo que hablan en ese registro. En junio de 2025, Sam Altman, consejero delegado de OpenAI, tituló un texto The Gentle Singularity, la singularidad amable, y lo abrió con una frase que entonces sonó a provocación: «Hemos pasado el horizonte de sucesos; el despegue ha comenzado». Un año y medio después, los informes de su laboratorio y del de Anthropic aportan algo que aquella frase no tenía: números. Se puede discutir la palabra «despegue». Es más difícil discutir la pendiente de una curva que pasa del 1 % al 26 % en siete meses.

Los laboratorios llaman a ese bucle completo recursive self-improvement, mejora recursiva. Anthropic, en otro texto publicado el mismo mes, lo dice sin rodeos: si los sistemas llegan a ser capaces de construir por completo a sus sucesores, la forma en que los protegemos, los vigilamos y moldeamos su comportamiento se vuelve mucho más importante. Es una frase sensata. También es una frase escrita por quien acelera el proceso que describe.

El desnivel prometeico

Günther Anders, filósofo alemán, alumno de Husserl y de Heidegger, acuñó en 1956 una expresión que no ha envejecido: el desnivel prometeico. Describía la distancia creciente entre lo que somos capaces de producir y lo que somos capaces de imaginar, sentir y responder sobre lo producido. Fabricamos más de lo que podemos representarnos.

El informe de Anthropic es, sin pretenderlo, la medición más precisa que tengo de ese desnivel aplicada a la IA. Miremos la supervisión. Treinta mil agentes trabajando en paralelo. Un sistema automático que revisa todas sus acciones. Una escalada a revisión humana que se resuelve, según el propio documento, en el plazo de una semana. Y en el nivel 4, el que ya ocupa una cuarta parte del trabajo, el humano «fija el objetivo, supervisa y valida».

Validar es la palabra clave. Validar un resultado que uno no podría haber producido, al ritmo al que se producen, con una herramienta que también es IA para filtrar qué merece mirarse, se parece cada vez menos a decidir y cada vez más a dar fe. El investigador se acerca a la figura del notario: certifica que el procedimiento se cumplió, no que el contenido sea el que él habría elegido. Es lo que llamo una firma sin autoría.

Cualquiera que haya dirigido una organización conoce la versión doméstica de este fenómeno. El director general que firma cada trimestre unas cuentas que no podría rehacer. El comité que aprueba un informe técnico porque lo avala el experto en quien confía. Funciona mientras quien firma conserva, al menos, la capacidad de hacer la pregunta que desmonta el informe. Lo que cambia con la IA es la escala y la velocidad: treinta mil autores trabajando a la vez y una firma que llega cuando el trabajo ya está hecho.

No es un reproche a nadie. Es una consecuencia estructural. Cuando la capacidad de producir crece más deprisa que la capacidad de comprender lo producido, la supervisión humana no desaparece: se transforma en un ritual que conserva la forma de la responsabilidad y pierde su contenido. Hans Jonas, otro alemán que pensó esto antes que nosotros, pedía en El principio de responsabilidad que el poder técnico se midiera por el alcance de sus efectos, no por la intención de quien lo ejerce. Un 26 % hoy, y en torno a un 80 % a final de año si la tendencia se mantuviera, según la extrapolación que publicó Le Grand Continent, son efectos de alcance considerable.

Los que piden freno y los que no pueden frenar

En septiembre, Yoshua Bengio, premio Turing y uno de los padres del aprendizaje profundo, pidió prohibir la mejora recursiva plenamente autónoma: que ningún sistema pueda desarrollar por su cuenta sucesores más capaces si eso los saca de una supervisión humana significativa. En el mismo mes, laboratorios chinos como Zhipu AI informaban de agentes que optimizaban versiones de sus propios modelos en dos semanas, y OpenAI mantenía su calendario hacia 2028.

Anthropic, en su texto sobre mejora recursiva, reconoce el dilema central: una pausa unilateral no serviría sin verificación global, porque cualquier actor que siga adelante heredaría el liderazgo. Es la dinámica de carrera en su forma más nítida. Todos ven el precipicio y nadie puede ser el primero en frenar. Dario Amodei, cuyo perfil analicé en septiembre, lleva años diciendo que construye lo que teme precisamente para que no lo construya otro con menos escrúpulos. La posición tiene una lógica impecable. Y tiene una consecuencia que la lógica no resuelve: el freno queda fuera de las manos de quien lo pide.

Aquí está, para mí, la verdad incómoda de este momento. El debate público sigue preguntando si la IA será más inteligente que nosotros. La pregunta que ya está en marcha es otra: si los humanos que la gobiernan seguirán teniendo capacidad real de decir que no a algo que no terminan de entender, construido a una velocidad que no controlan, en una competición de la que no pueden salir solos.

Lo que esto significa en tu mesa

Puede parecer un asunto de laboratorio californiano. No lo es. El patrón que describe el informe se va a repetir, con años de retraso y a otra escala, en cualquier organización que adopte agentes. Primero la IA asiste. Luego colabora. Un día, sin que nadie lo decida formalmente, lidera: hace el trabajo de principio a fin y alguien valida al final. El paso del nivel 3 al 4 no se anuncia. Se descubre cuando ya ha ocurrido.

Lo escribí al hablar de criterio frente a herramienta: la ventaja ya no está en tener IA, sino en saber qué decidir con ella. El informe de Anthropic añade un matiz que cambia la gestión. El recurso escaso ya no es la capacidad de producir. Es la capacidad de validar con conocimiento de causa. Y esa capacidad tiene tres condiciones que se pueden revisar mañana por la mañana:

1. Saber en qué nivel está cada proceso. Si no sabes qué parte del trabajo de tu equipo ya dirige la IA, no estás supervisando: estás suponiendo.
2. Que quien valida pueda reproducir. Si la persona que firma no sería capaz de llegar al mismo resultado, aunque fuera más despacio, su firma certifica el procedimiento, no el contenido.
3. Que exista un no posible. Un proceso en el que nadie ha rechazado nunca una propuesta de la IA no tiene supervisión: tiene un sello.

Good escribió que la primera máquina ultrainteligente sería el último invento que necesitaríamos hacer, siempre que fuera lo bastante dócil para decirnos cómo controlarla. Sesenta años después, la condición importa más que la profecía. Y la docilidad, en una organización, no la garantiza la máquina. La garantiza alguien con criterio suficiente para entender lo que firma.

Cuando firmas el trabajo que ha hecho una IA, ¿estás decidiendo o estás dando fe?

Preguntas frecuentes

Glosario del artículo

Mejora recursiva (recursive self-improvement)

Proceso hipotético en el que un sistema de IA diseña y entrena a sucesores más capaces sin intervención humana, y cada sucesor repite el ciclo. Es el mecanismo que, según la tesis de la singularidad, produciría una aceleración de la inteligencia fuera del control humano. El término, desarrollado en el glosario →

Niveles de automatización de la I+D

Escala de seis niveles, del 0 al 5, que mide cuánto del trabajo de investigación ejecuta la IA: desde la ausencia de participación hasta la autonomía completa. El nivel 4, «la IA lidera», es el umbral en el que el humano pasa de hacer a validar.

Explosión de inteligencia

Expresión de Irving John Good (1965) para describir el momento en que una máquina capaz de diseñar máquinas mejores que ella desencadena una sucesión acelerada de inteligencias superiores. Es el antecedente directo de la singularidad tecnológica.

Desnivel prometeico

Concepto de Günther Anders (1956) que nombra la distancia entre la capacidad humana de producir técnica y la capacidad de representarse y responder de sus consecuencias. Producimos más de lo que podemos imaginar. El término, desarrollado en el glosario →

Investigador de IA automatizado

Objetivo declarado por OpenAI para marzo de 2028: un sistema capaz de llevar a cabo de forma autónoma el ciclo de investigación en IA, desde decidir qué investigar hasta comunicar los resultados.

Firma sin autoría

Situación en la que una persona valida formalmente un resultado producido por un sistema que no podría reproducir ni comprender del todo. Conserva la forma de la responsabilidad y vacía su contenido. El término, desarrollado en el glosario →

Fuentes

1. Anthropic, Measurements for understanding the pace of AI development inside frontier labs, 18/09/2026
2. Anthropic, When AI builds itself (texto sobre mejora recursiva), septiembre de 2026
3. OpenAI, Research acceleration: a view inside OpenAI, 06/09/2026
4. Le Grand Continent, «En Anthropic, el 26 % de la I+D está dirigida por la IA», 18/09/2026
5. Irving John Good, «Speculations Concerning the First Ultraintelligent Machine», Advances in Computers, vol. 6, 1965.
6. Vernor Vinge, «The Coming Technological Singularity», 1993.
7. Günther Anders, La obsolescencia del hombre, vol. I, 1956.
8. Hans Jonas, El principio de responsabilidad, 1979.