Automatización de criterio
La automatización de criterio es el error estratégico de automatizar un proceso antes de haber validado que su lógica es correcta. Un proceso mal diseñado, al automatizarse, no mejora: escala el error a mayor velocidad y con mayor impacto. La automatización no corrige un problema, lo multiplica.
Automatizar amplifica. Si el proceso subyacente tiene buen criterio, la automatización lo extiende con eficacia; si tiene un fallo de lógica, la automatización lo reproduce a escala, y lo hace además invisible, porque nadie vuelve a mirar lo que ya funciona solo.
El orden importa: primero el criterio, después la herramienta. Automatizar sobre un proceso no examinado es construir velocidad sobre un error, y cuanto más eficiente sea la máquina, más lejos y más rápido llegará ese error.
Para el humanismo tecnológico, la automatización de criterio es un aviso previo a cualquier proyecto de eficiencia: validar la lógica antes de acelerarla. La pregunta no es qué se puede automatizar, sino qué merece automatizarse una vez que se ha comprobado que está bien pensado.
Reglamento (UE) 2024/1689 (AI Act), art. 14: supervisión humana efectiva de los sistemas de alto riesgo.
En una organización, la automatización de criterio ocurre cuando se delega en un sistema no la ejecución de una tarea sino el juicio que la gobierna: qué cliente vale, qué candidato pasa, qué precio se fija. La regla operativa: automatizar ejecución cuanto convenga; automatizar juicio solo con decisión escrita, responsable con nombre y vía de retorno.
Confundir automatizar tareas con automatizar juicio: lo primero libera tiempo; lo segundo transfiere soberanía.
Creer que el sistema decide con neutralidad: todo criterio automatizado incorpora el criterio —y los intereses— de quien lo diseñó.
Automatizar el juicio sin conservar la capacidad de ejercerlo: el criterio que no se practica se atrofia.
- ¿Qué es la automatización de criterio?
- ¿Qué diferencia hay entre automatizar tareas y automatizar decisiones?
- ¿Qué riesgos tiene delegar el juicio en algoritmos?
- ¿Cuándo es legítimo automatizar una decisión en la empresa?
