Rendición de cuentas inteligente
La rendición de cuentas inteligente es el concepto con el que la filósofa británica Onora O'Neill describió, en 2002, la forma de control que sostiene la confianza: la ejercida por personas competentes e independientes capaces de juzgar lo que examinan, frente a la acumulación de indicadores, auditorías formales o transparencia indiscriminada.
O'Neill lo expuso en sus conferencias Reith de la BBC, A Question of Trust. Observó que las sociedades que multiplicaban los controles formales no recuperaban la confianza, sino que generaban burocracia defensiva y desconfianza. La alternativa no era menos control, sino control mejor: menos y mejor medido, ejercido por quien entiende el objeto examinado y responde de su juicio. Aplicado a la inteligencia artificial, el concepto explica por qué la publicación masiva de datos por los laboratorios no sustituye a la evaluación independiente, y por qué un regulador con poder legal pero sin capacidad técnica no genera confianza.
No es un concepto jurídico, pero orienta el diseño de autoridades de supervisión. La exigencia del Reglamento europeo de IA de que las autoridades nacionales cuenten con personal técnico suficiente responde a esta lógica.
En una organización, implica asignar el control de los sistemas de IA a personas capaces de juzgarlos, con autoridad para rechazarlos, en lugar de añadir capas de documentación que nadie lee. Un control inteligente es pequeño, competente e independiente de quien controla.
Confundirla con la transparencia: publicar más datos no equivale a rendir cuentas. Pensar que se cumple con certificaciones o casillas marcadas. Y suponer que la independencia basta sin competencia, o la competencia sin independencia.
- ¿Qué es la rendición de cuentas inteligente?
- ¿Quién es Onora O'Neill?
- ¿Por qué más controles no generan más confianza?
- ¿Qué diferencia hay entre transparencia y rendición de cuentas?
- ¿Cómo se aplica a la supervisión de la inteligencia artificial?
- ¿Cómo se organiza un control inteligente de la IA en una empresa?
