Protección ante decisiones automatizadas
El Tribunal de Justicia de la Unión Europea (TJUE) ha emitido una sentencia clave sobre el uso de algoritmos en la toma de decisiones automatizadas que afectan a las personas. En este caso, una empresa denegó un servicio telefónico a un usuario basándose en una puntuación de solvencia calculada sin intervención humana. Ante la reclamación del afectado, surgió la cuestión de hasta qué punto las empresas deben revelar la lógica detrás de estos sistemas automatizados.
El derecho a una explicación clara
El TJUE establece que las personas tienen derecho a recibir una explicación clara y comprensible sobre:
- Cómo se ha calculado su puntuación.
- Qué criterios se han aplicado.
- Qué datos personales se han utilizado en el proceso.
No basta con proporcionar un número o hacer referencias vagas a “factores sociodemográficos”. La información debe ser inteligible y permitir a los afectados comprender las razones de la decisión. Asimismo, no solo protege la curiosidad legítima del usuario, sino que le permite ejercer otros derechos fundamentales, como:
- Presentar objeciones si considera que la decisión es injusta.
- Corregir errores en los datos utilizados.
Equilibrio entre transparencia y secreto comercial
Si bien las empresas pueden argumentar la necesidad de proteger secretos comerciales, la sentencia deja claro que esto no puede ser una excusa para negar información a los afectados. En caso de conflicto, las autoridades deberán determinar qué información es esencial para garantizar la transparencia sin comprometer datos sensibles.
Este fallo no solo afecta al sector financiero o crediticio, sino a cualquier ámbito donde las decisiones automatizadas impacten a las personas. Desde ahora, cualquier persona afectada por una decisión basada en algoritmos, ya sea en la concesión de un préstamo, un seguro o un servicio, podrá exigir una explicación detallada y comprensible.
La lógica de las decisiones automatizada | Mayor transparencia en la era digital
Con esta sentencia, el TJUE refuerza la protección de los ciudadanos en el entorno digital, alineándose con los principios de transparencia y tutela efectiva del Reglamento General de Protección de Datos (RGPD). Se garantiza así que las decisiones automatizadas sean comprensibles y controlables, protegiendo los derechos de los usuarios en un mundo cada vez más dominado por la inteligencia artificial.
