Sistema de recomendación
Un sistema de recomendación es un algoritmo que predice, a partir del comportamiento pasado de un usuario y de patrones agregados de millones de usuarios similares, qué contenido, producto o persona debería mostrársele a continuación. Es la infraestructura invisible que decide, para buena parte de la población conectada, qué ve cada mañana antes de que decida nada por sí misma.
La técnica tiene origen académico concreto: el filtrado colaborativo, formalizado por el proyecto GroupLens de la Universidad de Minnesota en 1994, partía de una intuición simple —si a dos personas les gustaron las mismas películas en el pasado, es probable que coincidan también en el futuro—. Netflix llevaría esa lógica a escala industrial con su célebre premio de un millón de dólares (2006-2009) a quien mejorara su algoritmo de predicción, y YouTube y TikTok la perfeccionarían después optimizando no ya la satisfacción declarada del usuario, sino una métrica mucho más rentable y mucho menos visible: el tiempo de visionado continuado.
Ahí está el punto de inflexión que interesa al análisis humanista. Un sistema de recomendación puede optimizarse para lo que el usuario dice que quiere, para lo que el usuario objetivamente necesita, o para lo que mantiene al usuario más tiempo dentro de la plataforma. Las tres métricas divergen con rapidez, y la tercera —la más lucrativa— tiende a imponerse por defecto salvo que exista una decisión explícita de gobierno corporativo en sentido contrario. Eli Pariser advirtió ya en 2011, en El filtro burbuja, que esta lógica de personalización extrema tiene un efecto colateral estructural: cada usuario acaba habitando una versión distinta y cada vez más estrecha de la realidad informativa, sin que el filtro sea visible ni el criterio de selección, auditable.
La paradoja es que estos sistemas no imponen nada por la fuerza: seducen. Aprenden de cada clic, cada pausa, cada segundo de más que el ojo se detiene en una miniatura, y devuelven una versión cada vez más afinada de lo que el propio comportamiento ha revelado. Es difícil acusar de coacción a un sistema que solo te ofrece, con precisión creciente, aquello hacia lo que ya te inclinabas. El poder no ordena; seduce, como recuerda la lectura de Byung-Chul Han que atraviesa buena parte de esta doctrina.
Para una organización, la pregunta de gobierno no es si usar sistemas de recomendación —son ya infraestructura estándar en comercio electrónico, contenido y captación de talento—, sino qué métrica optimizan realmente y quién audita esa elección.
El Reglamento (UE) 2022/2065 (DSA), art. 27, obliga a las plataformas a explicar en lenguaje claro los principales parámetros de sus sistemas de recomendación y a ofrecer, cuando sea técnicamente viable, al menos una opción no basada en perfilado del usuario.
En estrategia de contenidos y comercio electrónico, determina qué ve cada cliente sin que haya mediado una búsqueda activa; auditar sus criterios de ponderación es, cada vez más, una función de gobierno del dato, no solo de marketing.
Asumir que el sistema es neutral porque es automático.
No auditar qué se optimiza realmente detrás de la recomendación.
Ignorar el derecho del usuario a una opción no basada en perfilado, cuando el DSA la exige.
- ¿Qué es un sistema de recomendación?
- ¿Qué datos utiliza para funcionar?
- ¿Qué obliga la ley europea a estos sistemas?
