Juicio frente a cálculo
Juicio frente a cálculo es la distinción que Joseph Weizenbaum —informático del MIT, creador del programa ELIZA y después crítico lúcido de la inteligencia artificial— sitúa en el centro de la relación entre el ser humano y la máquina: una máquina puede calcular, pero no juzgar.
El cálculo opera con datos y reglas; el juicio integra valores, contexto, experiencia y responsabilidad. Weizenbaum, que había construido uno de los primeros chatbots, se alarmó al ver cómo la gente le atribuía comprensión y emociones. De ahí extrajo una lección que no es técnica sino moral.
Su tesis decisiva: hay decisiones que no deberíamos delegar en una máquina por mucho que esta pudiera tomarlas, porque delegarlas equivale a renunciar a lo propiamente humano. La cuestión no es de capacidad, sino de qué estamos dispuestos a dejar de decidir.
En la era pre-singularidad, cuando los sistemas generativos producen respuestas convincentes a casi todo, la distinción de Weizenbaum es el núcleo operativo del humanismo tecnológico: el criterio para evaluar el output de una máquina no puede delegarse en la propia máquina que lo genera.
No aplica.
En gobernanza de decisiones asistidas por IA, marca el límite de lo delegable: los sistemas pueden aportar cálculo —procesar datos, generar opciones, ponderar variables—, pero la decisión final en contextos de valor o de consecuencia humana requiere juicio, que Weizenbaum reserva a quien puede hacerse responsable de ella.
Delegar en un sistema de IA decisiones que requieren juicio de valor, no solo cálculo.
Confundir un cálculo sofisticado con un juicio genuino solo porque el resultado parece razonado.
Ignorar la advertencia de quien, como Weizenbaum, construyó estos sistemas y después alertó sobre sus límites.
- ¿Qué distinción hace Weizenbaum entre juicio y cálculo?
- ¿Quién fue Joseph Weizenbaum y qué programa creó?
- ¿Por qué su crítica tiene especial peso viniendo de él?
