Discriminación algorítmica en el ámbito laboral: perspectiva de género e intervención

PRESENTACIÓN

ABREVIATURAS

CAPÍTULO PRELIMINAR

SESGOS DE AUTOMATIZACIÓN Y DISCRIMINACIÓN ALGORÍTMICA

PILAR RIVAS VALLEJO

Introducción

I.La transformación digital

II.Algorimocracia y datificación

1.Inteligencia artificial

2.Algoritmocracia

3.Algoritmos de aprendizaje automático

3.1.Algoritmos y derecho: dos arquitecturas encontradas

3.2.Aprendizaje automático

4.Datos, procesamiento y riesgos jurídicos

III.Sesgos cognitivos, sesgos algorítmicos y errores del aprendizaje automático

1.Sesgos cognitivos y automatización de decisiones

2.Errores en los datos de entrenamiento

3.Inferencias no deseadas

4.¿Son evitables tales riesgos?

5.Textos programáticos: la Carta de Derechos Digitales de 2021

Referencias

PARTE I

CÓMO DISCRIMINAN LOS ALGORITMOS

CAPÍTULO 1

DISCRIMINACIÓN ALGORÍTMICA. APROXIMACIÓN CONCEPTUAL

CARLOS CASTILLO

I.Definiciones

II.Ejemplos de discriminación algorítmica

III.Riesgos de la discriminación algorítmica

IV.Fuentes de la discriminación algorítmica

Referencias

CAPÍTULO 2

DISCRIMINACIÓN ALGORÍTMICA: SESGOS DISCRIMINATORIOS EN EL APRENDIZAJE AUTOMÁTICO Y MITIGACIÓN

ORIOL PUJOL VILA

I.Introducción

II.Algoritmos y aprendizaje automático

1.Concepto

2.Una breve introducción a los conceptos del aprendizaje automático supervisado

3.Un breve vistazo al interior de un algoritmo de aprendizaje automático

III.La difícil tarea de definir identidad

IV.Formalizando la medición de los sesgos

1.Fundamentos de la medición de sesgos

2.Midiendo los sesgos y el coste de la equidad

3.Una introducción más formal a los tres conceptos de medida de sesgos grupales

V.Teorema de imposibilidad y ¿ahora qué?

VI.La mitigación de sesgos en algoritmos predictivos

VII.Justicia contrafactual

VIII.Una breve introducción a las fuentes de sesgos y a la visión de sistema

IX.Conclusiones

Referencias

CAPÍTULO 3

ÉTICA PARA EL CAMBIO DIGITAL: INTELIGENCIA ARTIFICIAL Y PERSPECTIVA DE GÉNERO

NATALIA HERRERO TOMÁS

I.Introducción

II.Modalidades de Inteligencia Artificial

1.Riesgos para la humanidad en el desarrollo de la Inteligencia Artificial

2.Principios de la ética de la Inteligencia Artificial

3.La necesidad de una regulación jurídica para el desarrollo de la Inteligencia Artificial

III.La ética de la Inteligencia Artificial y su proyección internacional

IV.Implicaciones algorítmicas en la perspectiva de género

V.Consideraciones finales

Referencias

CAPÍTULO 4

GESTIÓN ALGORÍTMICA DEL TRABAJO

PILAR RIVAS VALLEJO

I.Técnicas de gestión analítica de personas

II.Gestión automatizada de las relaciones de trabajo y riesgos de la tecnoeconomía

1.Riesgos de la tecnoeconomía

2.Automatización para la mejora de la eficacia y la productividad

III.Acceso al empleo

1.Reclutamiento

2.Contratación y causalidad

IV.Organización del trabajo

V.Evaluación del rendimiento y el desempeño

VI.Control del trabajo e hipervigilancia: la panóptica laboral

VII.Poder sancionador y decisiones automatizadas

VIII.Terminación de relaciones de trabajo

IX.Riesgos laborales

X.Apunte sobre la gestión digital del trabajo en las administraciones públicas

1.Acceso al empleo público

2.Control digital de la prestación de servicios

Referencias

CAPÍTULO 5

PROCESO DE CONTRATACIÓN, POLÍTICA DE EMPLEO Y USO DE ALGORITMOS

CAROLINA SERRANO FALCÓN

I.Introducción y cuestiones previas

II.Las fases en un proceso de contratación

1.Identificación de las necesidades

2.La búsqueda de candidatos

2.1.La alarmante situación actual

2.2.La desprotección jurídica de las personas candidatas

2.3.Propuestas urgentes. Una necesaria regulación internacional; el impulso en España del Portal Público de Empleo “Empléate” y una nueva regulación jurídica de la intermediación laboral adaptada a la nueva realidad

a)Una necesaria regulación internacional

b)El impulso en España del portal público de empleo “Empléate”

c)Una nueva regulación jurídica de la intermediación laboral adaptada a la realidad

3.La preselección a través de decisiones automatizadas. Los algoritmos y las plataformas de contratación

3.1.Descripción y análisis jurídico

3.2.Propuestas

4.Las pruebas y la entrevista digital

5.Valoración y toma de decisiones

III.Reflexión final

Referencias

CAPÍTULO 6

ANÁLISIS DEL COMPORTAMIENTO DE LAS PLATAFORMAS DE CAPTACIÓN, SELECCIÓN Y CONTRATACIÓN DE TRABAJADORES QUE EMPLEAN ALGORITMOS PARA LA ADOPCIÓN DE DECISIONES: EVIDENCIAS

SUSANA MORENO CÁLIZ

I.Delimitación del estudio y marco jurídico general

II.Sistemas de inteligencia artificial destinados a utilizarse para la contratación o selección de personas físicas

1.Contexto general

2.Técnicas de selección utilizadas

3.Modelos de selección en determinados ámbitos

3.1.Técnicas de selección basadas en el modelo de inteligencia emocional en el sector de la hostelería

3.2.Propuesta de informática para seleccionar personal por competencias utilizando técnicas de inteligencia artificial

3.3.Procesos de selección en un banco

3.4.Procesos de selección en la administración pública

3.5.Un modelo de proceso de selección de personas para encontrar el perfil óptimo del profesional que va a desarrollar una actividad

III.Evidencias empíricas: casos constatados

1.Análisis del caso Meta (Facebook)

2.Análisis del caso Amazon

3.Análisis del caso del servicio público de empleo austríaco (AMS)

4.Otros casos

Referencias

CAPÍTULO 7

ALGORITMOS RETRIBUTIVOS Y NO DISCRIMINACIÓN SALARIAL DE LAS MUJERES

SOFÍA OLARTE ENCABO

I.Introducción: avances y dificultades en la lucha contra la brecha salarial

1.Los avances en el ámbito de la UE

2.Avances en el ordenamiento interno: derecho de información algorítmica, obligación de registro y auditoría salarial

II.El Derecho ante la inteligencia artificial: avances en el Consejo de Europa, la Unión Europea y en el ordenamiento interno

III.Las decisiones automatizadas en los sistemas retributivos

IV.Las decisiones automatizadas y la discriminación retributiva: un marco jurídico insuficiente

Referencias

CAPÍTULO 8

LA TECNOLOGÍA BLOCKCHAIN. APLICACIÓN EN EL MUNDO LABORAL

JOSEP DOMENGE RODRÍGUEZ LÓPEZ

I.La tecnología blockchain, la nueva revolución industrial

II.La tecnología blockchain

1.Origen de la blockchain

2.Elementos y componentes de la blockchain

3.Las blockchain públicas y privadas

III.Bitcoin y otras criptomonedas

1.El bitcoin

2.Ethereum y otras criptomonedas

IV.Propuestas de reforma en el mundo laboral a través de la blockchain

1.Contratación del personal

2.El contrato laboral a través de la red Ethereum

3.El salario en criptomonedas

4.La blockchain y la prevención de riesgos laborales

V.Detractores de la tecnología blockchain

Referencias

PARTE II

IMPACTO DE GÉNERO

CAPÍTULO 1

SESGOS DISCRIMINATORIOS EN LA AUTOMATIZACIÓN DE DECISIONES EN EL ÁMBITO LABORAL: EVIDENCIAS DE LA PRÁCTICA

ANNA GINÈS I FABRELLAS

I.Ni es ficción, ni es ciencia

II.Discriminación algorítmica: viejos problemas magnificados

1.Evidencias de discriminación algorítmica

1.1.Discriminación por sesgos en las variables del algoritmo

1.2.Discriminación por sesgos en los datos de entrenamiento del algoritmo

1.3.Discriminación por correlación

1.4.Discriminación por los efectos del algoritmo

2.Discriminación algorítmica como discriminación indirecta

3.Nuevas dimensiones de históricas y vergonzosas discriminaciones

III.Algunas propuestas entre lo técnico y lo jurídico

IV.Reflexiones finales

Referencias

CAPÍTULO 2

RIESGOS LABORALES DERIVADOS DEL USO DE ALGORITMOS: IMPACTO DE GÉNERO

ADRIÁN TODOLÍ SIGNES

I.El “management” automatizado

II.La toma de decisiones automatizadas y los factores de riesgos laboral

1.Sesgos y discriminaciones causadas por el algoritmo

2.El algoritmo como potenciador de la discriminación

III.Métodos para reducir los riesgos laborales

1.Evaluación de los riesgos concretos

2.“Decisiones inteligentes” o cómo crear algoritmos que no dañen

a)Trasparencia

b)Adaptación a las capacidades de los trabajadores y reducir intensidad

c)Margen para la autonomía del trabajador

d)Respeto a la privacidad y a la no discriminación

e)El algoritmo deberá valorar cualquier elemento que suponga un riesgo para la seguridad y salud de los trabajadores

3.La existencia de un ser humano al mando –”Human in command”–

IV.Conclusión

Referencias

CAPÍTULO 3

APROXIMACIÓN JURÍDICA A LOS CONCEPTOS IMPLICADOS: PERSPECTIVA DE GÉNERO, IGUALDAD Y DISCRIMINACIÓN

MARTA ORTEGA BALANZA

I.Introducción

II.Revisión de los conceptos

1.De la materialidad a la performatividad y vuelta al inicio

2.La doble artificiosidad de la construcción del género

III.La paradoja de la deconstrucción

IV.La problemática de una inteligencia artificial no humanista

1.Tipos infractores

2.Propuesta de medidas correctoras

V.Conclusiones

Referencias

PARTE III

COMBATIR LA DISCRIMINACIÓN ALGORÍTMICA: CONTEXTUALIZANDO EL MARCO JURÍDICO

CAPÍTULO 1

INTELIGENCIA ARTIFICIAL: DERECHO DE LA UE Y DERECHO COMPARADO. LA PROPUESTA DE UNA LEY SOBRE IA

HENAR ÁLVAREZ CUESTA

I.Definiciones de inteligencia artificial

II.Impacto de la inteligencia artificial en el empleo

III.Necesidad de establecer un marco normativo para la inteligencia artificial y primeras propuestas

IV.La denominada “Ley de Inteligencia Artificial”

1.Sistemas de inteligencia artificial de alto riesgo

2.Principios del uso de sistemas de IA de alto riesgo

2.1.Calidad de datos del sistema de alto riesgo

2.2.Transparencia e información del sistema de IA

2.3.Supervisión y control humanos del sistema

2.4.Solidez y seguridad de la IA

2.5.Evaluación de la conformidad de sistemas de alto riesgo

3.Prácticas prohibidas en el uso de sistemas de inteligencia artificial

4.Cuestiones pendientes en la Ley de Inteligencia Artificial europea

4.1.La responsabilidad de la IA en el marco de la relación laboral

4.2.Auditoría externa de los sistemas de alto riesgo

4.3.La falta de atención a los riesgos de discriminación algorítmica en el trabajo

4.4.El silencio sobre la participación sindical en la aplicación y control de sistemas de IA en el trabajo

V.La regulación de la IA en derecho comparado

Referencias

CAPÍTULO 2

ANÁLISIS DESDE EL DERECHO ANTIDISCRIMINATORIO

PILAR RIVAS VALLEJO

I.Análisis de sesgos desde la perspectiva del derecho antidiscriminatorio

1.Conceptos técnicos frente a conceptos jurídicos en materia de sesgos algorítmicos

2.Sesgos frente a discriminación

3.Insuficiencia del derecho antidiscriminatorio: traslación de los conceptos de discriminación por asociación, por error o múltiple

4.Sobre la valoración como discriminatorios de los actos basados en algoritmos

4.1.¿Es relevante identificar el impacto de las arquitecturas computacionales a efectos de calificarlo como discriminatorio jurídicamente?

4.2.¿Discriminación directa o indirecta?

4.3.Impacto discriminatorio de los algoritmos

4.4.Valoración como discriminación directa o indirecta de las decisiones automatizadas

4.5.La discriminación directa derivada de algunas herramientas biométricas

5.Discriminación múltiple e interseccionalidad

II.Consecuencias jurídicas del uso de herramientas basadas en la inteligencia artificial en la relación de trabajo

1.Nuevos personajes en un mismo escenario

2.Propiedades jurídicas de los algoritmos

2.1.Elementos a considerar y dificultades de acceso

2.2.Aproximación jurídica al código fuente

2.3.Análisis de un caso concreto: el bono social eléctrico y el algoritmo BOSCO

3.Consideraciones jurídicas sobre los datos usados por el algoritmo

3.1.La propiedad de los datos

3.2.El derecho a la protección de datos como límite a las decisiones automatizadas y a la elaboración de perfiles

III.Derechos relativos a la adopción de decisiones automatizadas y consecuencias de su incumplimiento en el campo antidiscriminatorio

1.Derecho de explicabilidad y acceso al razonamiento subyacente

2.Intervención humana significativa

3.Consecuencias del incumplimiento de los deberes asociados a la automatización de decisiones

3.1.Transparencia

3.2.Nulidad en cascada

3.3.¿Responsabilidad por actos pasados detectados por aprendizaje automático?

3.4.Whistleblowing

Referencias

CAPÍTULO 3

EL DERECHO DE PROPIEDAD INTELECTUAL Y LA PROTECCIÓN DE DATOS PERSONALES FRENTE AL DERECHO DE TRANSPARENCIA DE LOS ALGORITMOS

CARLOS VILLAGRASA ALCAIDE

I.Introducción

II.Nociones previas: el derecho de propiedad sobre cosas incorporales

III.Los desafíos de la propiedad intelectual y los derechos de autor frente a la inteligencia artificial (AI)

IV.El algoritmo: una obra semoviente y fructífera

V.El derecho de propiedad intelectual de quien crea el algoritmo

VI.Las responsabilidades derivadas de los algoritmos

VII.De la biotecnología a la bioética, y de la tecnología de la inteligencia artificial (AI) a la AI-ética

VIII.La consolidación del principio de transparencia sobre la inteligencia artificial (AI)

IX.Conclusiones abiertas frente a horizontes indeterminados

Referencias

PARTE IV

COMBATIR LA DISCRIMINACIÓN ALGORÍTMICA: HERRAMIENTAS TÉCNICAS Y JURÍDICAS

CAPÍTULO 1

JUSTICIA ALGORÍTMICA: ¿SIMBIOSIS O DEPREDACIÓN? NUEVOS INTERROGANTES EN LA AUTOMATIZACIÓN DEL PROCESO JUDICIAL

ELISA SIMÓ SOLER

I.Inteligencia artificial y derecho: una historia de desamor

II.Human in Command: los algoritmos como complemento

1.Machine Learning y Justicia: ¿amistad o traición?