La plena aplicación del Reglamento de Inteligencia Artificial todavía no se ha producido. Su entrada en vigor es progresiva y buena parte de sus disposiciones aún no son aplicables. Sin embargo, esta circunstancia no implica que hoy carezcamos de un marco jurídico para controlar las decisiones automatizadas adoptadas mediante sistemas de inteligencia artificial. Como ha destacado la doctrina en numerosas ocasiones, el Reglamento General de Protección de Datos (RGPD) ya contiene desde 2018 un auténtico estatuto jurídico frente a las decisiones automatizadas, articulado, esencialmente, a través de tres grandes derechos:

1. derecho a la información (art 14),
2. derecho a la explicación (art. 15 y 22)
3. derecho a la réplica de las decisiones automatizadas, incluidos los perfiles (art. 15 y 22).

Ello significa que, cuando una empresa deniega una solicitud de empleo, descarta candidaturas, rechaza un ascenso, modifica horarios o incluso despide a una persona trabajadora mediante sistemas automatizados ( sea porque la decisión proviene directamente de un algoritmo o porque se basa en un perfil elaborado por inteligencia artificial), los trabajadores ya cuentan, desde 2018, con el derecho a conocer, cuestionar y oponerse a esa decisión.

No obstante, la realidad es que esta protección es muy poco aplicada en el ámbito laboral. La razón es doble. Por un lado, se trata de una normativa no específicamente laboral y, por tanto, poco integrada aún en la práctica de relaciones laborales. Por otro, el RGPD es una norma supranacional, no originada en el legislador español, lo que dificulta su «incorporación rutinaria en procedimientos internos empresariales «conocimiento» por los operadores jurídicos.

A ello se suma que la norma es relativamente reciente y apenas existe jurisprudencia que interprete el alcance de los artículos 15 y 22 del RGPD en contextos laborales. Precisamente por este motivo, la reciente sentencia del Tribunal de Justicia de la Unión Europea en el asunto C-203/22, Dun & Bradstreet Austria, aun no siendo un caso laboral, tiene enorme relevancia para comprender el alcance del derecho a la explicación y su proyección sobre la gestión algorítmica en el trabajo. Además, como veréis su interpretación es perfectamente aplicable a situaciones laborales en las que concurren decisiones automatizadas.

A continuación, paso a comentarla.

Hechos del caso

El asunto tiene su origen en Austria. Una consumidora fue rechazada para la contratación de un teléfono móvil debido a un perfil de solvencia (credit score) generado por Dun & Bradstreet Austria GmbH. El perfil crediticio, que indicaba insuficiente solvencia, se produjo mediante un sistema automatizado.

La interesada ejerció entonces su derecho de acceso del artículo 15.1 RGPD, solicitando conocer sus datos personales, los parámetros utilizados en la elaboración del perfil y la lógica aplicada en la decisión automatizada (art. 15 y 22 RGPD).

La empresa respondió únicamente con información de carácter general, alegando la necesaria protección de secretos comerciales como fundamento para no revelar detalles del algoritmo. Ante dicha negativa, la interesada presentó una reclamación ante la Autoridad Austriaca de Protección de Datos (DPA). Posteriormente, el Tribunal Administrativo de Viena decidió plantear cuestión prejudicial al TJUE, dada la necesidad de precisar el alcance de los derechos afectados.

2. Resolución del caso

2.1. Derecho a obtener información significativa y explicación

El Tribunal aclara que, en el marco del artículo 15.1.h) RGPD, cuando existe una decisión automatizada en el sentido del artículo 22.1, el interesado puede exigir una información que describa, “mediante información pertinente y en forma concisa, transparente, inteligible y de fácil acceso, el procedimiento y los principios aplicados concretamente” para explotar los datos personales con el fin de obtener un resultado determinado.

• la información debe permitir comprender qué datos se utilizaron y cómo fueron tratados;
• el responsable debe “buscar maneras sencillas” de explicar los criterios utilizados en la decisión automatizada, sin necesidad de revelar el algoritmo completo;
• la complejidad técnica del sistema no exime de proporcionar una explicación adecuada.

En materia de elaboración de perfiles, el TJUE añade que la explicación debe incluir “el alcance en que una variación de los datos personales tomados en consideración hubiera conducido a un resultado diferente”. Esto obliga a mostrar una relación causal comprensible entre datos y resultado. En el ámbito laboral esto podría implicar decirle al trabajador qué tendría que haber hecho para obtener el bonus, no ser despedido o ser contratado en la oferta de trabajo que fue rechazado por el sistema automatizado.

2.2. El secreto empresarial o la propiedad intelectual no son causa de denegación de la explicación.

El Tribunal recuerda que los derechos del interesado deben equilibrarse con otros derechos fundamentales, conforme al principio de proporcionalidad: el acceso del interesado “no debe afectar negativamente” a los derechos de otros, como los secretos comerciales, la propiedad intelectual o el software protegido por copyright (apdo. 69).

No obstante, este equilibrio no puede justificar la negativa total a facilitar información. El Tribunal exige que se realice una ponderación caso por caso.

• Específicamente la sentencia señala que los Estados miembros no pueden establecer reglas que permitan denegar el acceso simplemente porque la información afecte a un secreto empresarial.

Conclusión

La sentencia Dun & Bradstreet Austria (C-203/22) constituye un hito interpretativo en la comprensión de los derechos vinculados a decisiones automatizadas.

Los trabajadores tienen derecho a saber qué datos se han utilizado, cómo estos han influido en la decisión, si la decisión hubiera sido distinta con otros datos y a cuestionar la validez del resultado. Y ninguna alegación genérica de secreto comercial puede privarles de ello.

Cuando se aplique plenamente el Reglamento de Inteligencia Artificial, este régimen se verá reforzado. Pero incluso sin dicho reglamento, el RGPD ya reconoce derechos potentes que deben integrarse en la práctica laboral y en los sistemas de gestión algorítmica de recursos humanos.

Información adicional

Si te interesa la aplicación de las decisiones automatizadas y la IA en el mercado laboral te puedes descargar gratuitamente mi libro titulado: Algoritmos productivos y extractivos en este enlace.

Adicionalmente os dejo en este enlace información de un congreso Presencial y gratuito que se celebra en Valencia el 25 y 26 de junio de este año sobre la temática de la IA.