Opacidad algorítmica
La opacidad algorítmica es la imposibilidad práctica de conocer qué datos pondera un sistema automatizado, con qué criterios y al servicio de qué objetivo. Es la forma técnica de una asimetría más amplia: el sistema ve al usuario con un detalle creciente; el usuario, en cambio, no puede ver ni auditar al sistema que lo observa.
La opacidad no siempre es deliberada: en muchos sistemas de aprendizaje automático de gran escala, ni siquiera quienes los diseñan pueden explicar con precisión por qué el modelo pondera un dato concreto de una forma determinada, un fenómeno conocido en la literatura técnica como el problema de la caja negra. A la opacidad técnica se suma, con frecuencia, una opacidad deliberada: la protección del algoritmo como secreto empresarial.
La distinción entre ambas importa porque exige respuestas distintas: la opacidad técnica se aborda con investigación en interpretabilidad; la opacidad deliberada, con presión regulatoria y contractual.
El RGPD (art. 22) reconoce el derecho a no ser objeto de decisiones basadas únicamente en tratamiento automatizado sin intervención humana, y el DSA (art. 27) exige transparencia sobre los parámetros de los sistemas de recomendación; ninguna de las dos normas obliga a publicar el algoritmo en sí, por lo que la opacidad de fondo persiste aun cumpliéndolas.
En relación con proveedores tecnológicos, obliga a una empresa a exigir explicaciones —no solo cumplimiento formal— sobre cómo un sistema de terceros pondera los datos que la afectan a ella o a sus clientes, más allá del mínimo exigido por la ley.
Confundir opacidad algorítmica con secreto empresarial legítimo en todos los casos.
Aceptar el cumplimiento formal de transparencia como si resolviera la opacidad de fondo.
No exigir explicaciones a proveedores por asumir que «así funciona la tecnología».
- ¿Qué es la opacidad algorítmica?
- ¿Qué la diferencia del secreto empresarial legítimo?
- ¿Existe normativa que obligue a explicarla?
