Algoritmos, inteligencia artificial y relación laboral

PRÓLOGO. EL IMPACTO LABORAL DE LOS ALGORITMOS

ANNA GINÈS I FABRELLAS

PARTE I. INTELIGENCIA ARTIFICIAL Y ALGORITMOS: OPORTUNIDADES, DESAFÍOS

CAPÍTULO 1
HACIA UNA POLÍTICA DE INNOVACIÓN EN IA

ESTEVE ALMIRALL

1.Introducción

2.La promesa

3.La paradoja de la IA

4.La disrupción de la IA

5.La innovación en IA

6.Hacia una política de innovación en IA jurídico

7.Bibliografía

CAPÍTULO 2
ALGORITMOS, DECISIONES AUTOMATIZADAS Y DESAFÍOS ÉTICOS: UN ANÁLISIS SOCIOLÓGICO

DAVID MURILLO

1.Introducción

2.La IA como cultura: mitos, principios y valores

2.1.Un marco conceptual básico

2.2.Mitos de la IA

3.La IA como artefacto moral: desafíos éticos y sociales

4.La IA como lógica organizativa: el extractivismo de datos

5.La IA como mecanismo de control: impacto sobre las personas trabajadoras

6.La IA como ámbito de regulación: tendencias y oportunidades

6.1.Los datos como el nuevo petróleo: una analogía útil para confrontar el extractivismo de datos

6.2.Entender las plataformas tecnológicas como agentes de cambio institucional y la IA como ideología

6.3.El derecho como resultado de la negociación entre agentes, posibilidades tecnológicas y la sociedad

6.4.Reflexiones finales

7.Bibliografía

CAPÍTULO 3
NOTAS PARA UN APRENDIZAJE AUTOMÁTICO JUSTO

IRENE UNCETA

1.Introducción

2.Aproximación al aprendizaje automático

2.1.Las tipologías de aprendizaje

2.2.Los datos

2.3.Inferencia y predicción

2.4.Los algoritmos y los modelos

2.5.Las métricas

3.Los sesgos en el aprendizaje automático

3.1.Las fuentes de sesgo

3.2.Las métricas de fairness

4.Hacia un aprendizaje automático justo

5.Bibliografía

PARTE II. EL TRATAMIENTO JURÍDICO DEL USO DE INTELIGENCIA ARTIFICIAL Y ALGORITMOS EN EL ÁMBITO LABORAL

CAPÍTULO 4
INTELIGENCIA ARTIFICIAL, ALGORITMOS Y BIG DATA EN EL ÁMBITO LABORAL. CONSIDERACIONES EN TORNO A SU MARCO REGULATORIO

SALVADOR DEL REY GUANTER

1.Introducción

2.Consideraciones generales sobre el marco regulatorio

3.Sobre la centralidad del Estatuto de los Trabajadores en la regulación de la IA, algoritmos y big data en la empresa

4.El marco regulatorio extraestatutario trascendente para los sistemas de IA, algoritmos y big data en el ámbito laboral: algunos ejemplos recientes

4.1.IA y marco regulatorio del empleo

4.2.IA y marco regulatorio de la formación

4.3.El marco legal de la igualdad y no discriminación en las relaciones laborales y la implantación de IA

4.4.IA y algoritmos en la normativa sobre garantía integral de la libertad sexual

5.Conclusiones

6.Bibliografía

CAPÍTULO 5
LA PROPUESTA DE REGLAMENTO SOBRE INTELIGENCIA ARTIFICIAL Y SU IMPACTO EN EL ÁMBITO LABORAL

HENAR ÁLVAREZ CUESTA

1.Marco normativo europeo para la Inteligencia Artificial y propuesta de la denominada “Ley de Inteligencia Artificial”

2.La clasificación de los sistemas de Inteligencia Artificial en la Ley de Inteligencia Artificial europea

2.1.Prácticas prohibidas en el uso de sistemas de Inteligencia Artificial

2.2.Sistemas de Inteligencia Artificial de alto riesgo

2.3.Sistemas de IA de riesgo limitado

2.4.Sistemas de riesgo mínimo

3.Obligaciones referidas a los sistemas de IA de alto riesgo

3.1.Obligaciones de la persona proveedora/desarrolladora

3.2.Obligaciones de la persona usuaria o implementadora

4.Principios y reglas de uso de sistemas de IA de alto riesgo

4.1.Calidad de los datos del sistema de IA de alto riesgo

4.2.Transparencia y derecho de información del sistema de IA de alto riesgo

4.3.Supervisión y control humanos del sistema de IA de alto riesgo

4.4.Solidez y seguridad de la IA

4.5.Evaluación de la conformidad de sistemas de alto riesgo

5.Cuestiones pendientes en la Ley de Inteligencia Artificial europea en su aplicación al trabajo

6.Bibliografía

CAPÍTULO 6
DECISIONES AUTOMATIZADAS Y ELABORACIÓN DE PERFILES EN EL ÁMBITO LABORAL Y SU POTENCIAL IMPACTO DISCRIMINATORIO

ANNA GINÈS I FABRELLAS

1.Introducción

2.El tratamiento jurídico del uso de algoritmos para la elaboración de perfiles y decisiones automatizadas en el ámbito laboral

2.1.Introducción a los conceptos de decisiones automatizadas y elaboración de perfiles

2.2.Decisiones automatizadas y elaboración de perfiles en el Reglamento General de Protección de Datos

2.2.1.Prohibición general de decisiones íntegramente automatizadas con efectos jurídicos o similarmente significantes

2.2.2.Excepciones a la prohibición general de decisiones íntegramente automatizadas

2.3.Principios, garantías y salvaguardas frente a las decisiones automatizadas y la elaboración de perfiles

2.3.1.Principios generales del tratamiento de datos personales

2.3.2.Derechos de información y transparencia

2.3.3.Derecho de impugnación, revisión e intervención humana

2.4.Derechos colectivos de información, consulta y negociación

3.El impacto discriminatorio del uso de algoritmos en el ámbito laboral

3.1.Orígenes de la discriminación algorítmica

3.2.El tratamiento jurídico de la discriminación algorítmica

3.3.Nuevas dimensiones de la discriminación algorítmica

4.La necesidad de avanzar hacia mayor transparencia algorítmica

5.Reflexiones finales. Retos jurídicos para una inteligencia artificial ética y justa

6.Bibliografía

CAPÍTULO 7
LA DIRECCIÓN ALGORÍTMICA EN LA PROPUESTA DE DIRECTIVA SOBRE EL TRABAJO EN PLATAFORMA: UN AVANCE PARCIAL ENTRE LA DIMENSIÓN INDIVIDUAL Y COLECTIVA

MATTEO AVOGARO

1.Introducción

2.El marco normativo vigente: el Reglamento General de Protección de Datos y la dirección algorítmica en el contexto del trabajo en plataformas

2.1.Medidas para limitar la utilización de sistemas totalmente automatizados de toma de decisiones

2.2.Normas de aplicación general del RGPD que afecten a la dirección algorítmica en el trabajo en plataformas

3.La dirección algorítmica en la Propuesta de Directiva sobre el trabajo en plataformas: comprensibilidad, explicación y consulta colectiva como clave para unas mejores condiciones de trabajo

3.1.Transparencia y utilización de sistemas automatizados de supervisión y toma de decisiones

3.2.Supervisión humana de los sistemas automatizados

3.3.Revisión humana de decisiones importantes

3.4.Derechos de información y consulta de la representación de las personas trabajadoras

3.5.La extensión del cuadro regulador del Capítulo III de la Propuesta de Directiva a las personas que trabajan en plataformas sin relación laboral

4.Una lectura crítica de la Propuesta de Directiva: entre ambición innovadora y pragmática moderación

5.Conclusiones

6.Bibliografía

CAPÍTULO 8
APRENDIZAJE AUTOMÁTICO, MONITOREO INFINITO Y DESAFÍOS DE PROTECCIÓN DE DATOS Y PRIVACIDAD

RAQUEL SERRANO OLIVARES

1.Problemática jurídica analizada y derechos en juego

2.Recogida y tratamiento de datos personales

2.1.Recogida y tratamiento de datos personales en la selección y contratación de personal

a)Datos aportados por la persona candidata

b)Datos no obtenidos de la persona candidata: redes sociales

c)Tecnología de reconocimiento de emociones a partir de datos biométricos

2.2.Datos recabados durante la relación laboral, incluyendo medios de control utilizados por los dispositivos de IA

3.Sistemas de aprendizaje automático y elaboración de perfiles

4.Decisiones automatizadas

5.Reflexión final

6.Bibliografía

CAPÍTULO 9
IA Y SEGURIDAD Y SALUD LABORAL: LA DICOTOMÍA ENTRE SER UN GRAN ALIADO PRODUCTIVO Y UN “RIESGO LABORAL EMERGENTE”

MANUEL LUQUE PARRA

1.Introducción

2.La IA como “gran aliada” para la seguridad y salud en el trabajo

2.1.La incidencia de la IA en la mejora de la seguridad de los sistemas productivos

2.2.La IA como “oportunidad” para hacer más eficientes los sistemas de gestión de PRL: mucho más que la certificación ISO 45001

3.La IA como un “riesgo laboral emergente”

3.1.La IA como riesgo psicosocial emergente a evaluar

3.2.La mujer trabajadora en el entorno de la inteligencia artificial

3.3.La propuesta de Reglamento sobre IA: “IA, entorno laboral y ‘alto riesgo’ ”

4.Valoración final

5.Bibliografía

CAPÍTULO 10
LOS DERECHOS COLECTIVOS DE INFORMACIÓN, CONSULTA Y NEGOCIACIÓN DEL USO DE ALGORITMOS Y SISTEMAS DE INTELIGENCIA ARTIFICIAL

ALBERTO PASTOR MARTÍNEZ

1.La incidencia del nuevo marco normativo en materia de participación de las personas trabajadoras

1.1.La aprobación del Real Decreto-ley 9/2021 y la posterior Ley 12/2021 y su incidencia en los derechos de participación de las personas trabajadoras

1.2.Algoritmos y protección de datos. El principio de transparencia

2.El derecho a la información algorítmica en su dimensión colectiva

2.1.La utilización de algoritmos en materia laboral como elemento determinante de la obligación de información algorítmica colectiva

2.2.Contenido de la información

2.3.Titulares del derecho a la información algorítmica colectiva

2.4.Dinámica y forma de la obligación informativa

3.El derecho de consulta de la representación de las personas trabajadoras

3.1.El ámbito de aplicación del derecho de consulta de la representación de las personas trabajadoras con relación al uso de algoritmos

3.2.Dinámica, forma y efectos de la omisión del derecho de consulta

4.Un breve excurso sobre negociación colectiva y algoritmo

5.Bibliografía

CAPÍTULO 11
EVALUACIÓN DE IMPACTO DE LOS ALGORITMOS PARA LA TOMA DE DECISIONES AUTOMATIZADAS EN EL ÁMBITO LABORAL

ANTONIO DELGADO PLANÁS

1.Introducción

2.Función de la evaluación de impacto

2.1.Definición de la evaluación de impacto

2.2.Las evaluaciones de impacto como parte de un sistema de gestión del riesgo

2.3.El momento para la realización de la evaluación de impacto y la privacidad desde el diseño

3.La obligación de la realización de una evaluación de impacto

3.1.Operaciones que requieren evaluación de impacto

3.2.Operaciones que no requieren evaluación de impacto

4.El papel de la persona delegada de protección de datos

5.Contenido mínimo de la evaluación de impacto

6.Conclusión

7.Bibliografía