Inteligencia artificial, nuevas tecnologías y derechos humanos en el marco de la empresa

PRÓLOGO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
LOS TITUBEOS PARA REGULAR A LAS EMPRESAS TECNOLÓGICAS Y EL IMPACTO DE LA INTELIGENCIA ARTIFICIAL EN LOS DERECHOS HUMANOS
ANA GASCÓN MARCÉN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
I. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
II. La aproximación europea . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
2.1. El Reglamento de Inteligencia Artificial de la Unión Europea . 24
2.2. El Convenio Marco del Consejo de Europa . . . . . . . . . . . . . . . . 30
III. Otras aproximaciones nacionales . . . . . . . . . . . . . . . . . . . . . . . . . 34
3.1. Estados Unidos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
3.2. Países de Asia Oriental . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
3.2.1. China . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
3.2.2. Corea del Sur y Japón . . . . . . . . . . . . . . . . . . . . . . . . . 46
IV. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
EMPRESAS Y DERECHOS HUMANOS: UNA RELACIÓN COMPLEJA EN EL CONTEXTO DE LAS «TECNOFRONTERAS»
CARLOS ARCE JIMÉNEZ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
I. Las obligaciones de las empresas en materia de derechos humanos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
1.1. En el Derecho Internacional de los Derechos Humanos (DIDH) 54
1.2. En la UE . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
1.3. En el ámbito estatal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
II. Los retos específicos de las empresas tecnológicas desde la perspectiva de los derechos humanos . . . . . . . . . . . . . . . . . . . . . 67
III. La intervención del sector privado en el control fronterizo europeo: una especial referencia a las «tecnofronteras» . . . . . . . . 73
IV. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78
ENTRE LA INNOVACIÓN Y LA REGULACIÓN: LA INTELIGENCIA ARTIFICIAL Y LA TRANSFORMACIÓN DEL RÉGIMEN ESPACIAL
PAULA RABOSO PANTOJA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
I. Introducción: un nuevo entorno espacial . . . . . . . . . . . . . . . . . . 83
II. IA en sistemas espaciales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
2.1. Fundamentos de la inteligencia artificial . . . . . . . . . . . . . . . . . . 85
2.2. Aplicaciones de la inteligencia artificial en el dominio espacial . 87
III. La IA ante la encrucijada de actores y regulación espacial . . . 92
3.1. La vertiente de la IA en la regulación espacial público-privada . 95
3.2. Entonces, ¿quién asume la responsabilidad? . . . . . . . . . . . . . . . 99
IV. ¿Cómo regular la IA en el espacio? . . . . . . . . . . . . . . . . . . . . . . . 102
V. Conclusiones: Hacia un futuro incierto . . . . . . . . . . . . . . . . . . . . 105
EL EJERCICIO DEL PODER DE DIRECCIÓN EMPRESARIAL ANTE LA INTELIGENCIA ARTIFICIAL
JESÚS CRUZ VILLALÓN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107
I. El poder de dirección como rasgo genuino del trabajo subordinado . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108
II. La gestión algorítmica como presunción de laboralidad . . . . . 115
III. La inteligencia artificial como riesgo y como oportunidad . . . 119
IV. Mi jefe no puede ser un algoritmo . . . . . . . . . . . . . . . . . . . . . . . . 124
V. El gestor del algoritmo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127
INTELIGENCIA ARTIFICIAL, ACCESO AL EMPLEO Y PROHIBICIÓN DE DISCRIMINACIÓN
CARMEN SÁEZ LARA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 135
I. Cuestiones introductorias . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137
II. Acceso al empleo, intermediación y contratación laboral . . . . 138
III. Delimitando el riesgo de la «discriminación algorítmica» . . . 141
IV. Mecanismos preventivos de la tutela antidiscriminatoria en el RIA y la Directiva (UE) 2024/2831 . . . . . . . . . . . . . . . . . . . . . . . . . 142
4.1. Tutela preventiva antidiscriminatoria en el RIA . . . . . . . . . . . . 143
4.1.1. Sistema de garantías en la fase de preimplantación de un SIA de alto riesgo . . . . . . . . . . . . . . . . . . . . . . . 144
4.1.2. Sistema de garantías en la fase de postimplantación de un SIA en el acceso al empleo . . . . . . . . . . . . . . . 145
4.2. Tutela preventiva antidiscriminatoria en la Directiva (UE) 2024/2831 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
4.3. La aplicación y transposición del marco normativo europeo . . . 148
4.3.1. Propuesta de reforma de la regulación estatutaria en relación con los SIA de selección y contratación laboral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 150
4.3.2. Propuestas de reforma de la Ley de Empleo en relación con la intermediación laboral exclusivamente automatizada . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 150
V. Tutela antidiscriminatoria y SIA de selección y contratación laboral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152
5.1. Discriminación algorítmica bajo el test de la discriminación directa y el test de la discriminación indirecta . . . . . . . . . . . . . . . 153
5.2. Algunas conclusiones sobre la aplicación de la tutela antidiscriminatoria a las decisiones empresariales automatizadas . . . . . . 154
5.3. Supervisión pública a favor de la efectividad de la tutela frente a la discriminación algorítmica . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
EL IMPACTO DE LA GESTIÓN LABORAL ALGORÍTMICA EN LAS RELACIONES LABORALES: EL TAYLORISMO EN LA REVOLUCIÓN DIGITAL DEL SIGLO XXI
JUAN PABLO LANDA ZAPIRAIN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
I. Introducción: la revolución industrial ante el desafío de la inteligencia artificial . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160
II. Una cuestión previa: ¿podemos considerar la IA como una «nueva máquina» ordenada a mejorar la productividad? . . . . 163
III. La inteligencia artificial en la organización del trabajo . . . . . . 166
IV. Las normas laborales de regulación de la organización del trabajo ante la IA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
4.1. El Derecho sobre el acceso y mantenimiento del puesto de trabajo ante el desafío de la gestión algorítmica . . . . . . . . . . . . . . . . . . . 170
4.2. El Derecho sobre la reestructuración de plantillas como consecuencia de la introducción de sistemas IA . . . . . . . . . . . . . . . . . 173
4.3. El Derecho sobre la formación y promoción en el trabajo a la luz de la IA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174
V. Conclusión: la empresa socialmente responsable en la era digital . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177
5.1. Una «repetida» vieja idea: la Responsabilidad Social de la Empresa . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 180
RESPONSABILIDAD CIVIL EN MATERIA DE INTELIGENCIA ARTIFICIAL: UNA APROXIMACIÓN DESDE EL DERECHO INTERNACIONAL PRIVADO EUROPEO
GUILLERMO PALAO MORENO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
I. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 185
II. La inacabada labor armonizadora en materia de responsabilidad civil por daños ocasionados por la inteligencia artificial en la Unión Europea . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187
2.1. El esfuerzo regulador europeo en materia de Inteligencia Artificial y la limitada incidencia del Reglamento (UE) 2024/1689 en materia de responsabilidad civil . . . . . . . . . . . . . . . . . . . . . . . . . 189
2.2. La actividad legislativa europea relativa a la responsabilidad civil: luces y claros . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193
2.3. Posición que ocupa el Derecho Internacional privado en este contexto regulatorio . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197
III. Determinación de los tribunales internacionalmente competentes en aplicación de la normativa europea . . . . . . . . . . . . . . 198
3.1. Reglas aplicables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 199
3.2. El juego de los foros de competencia de carácter generales y de conexión procesal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200
3.2.1. Sumisión . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 201
3.2.2. Domicilio del demandado . . . . . . . . . . . . . . . . . . . . . 202
3.2.3. Establecimiento secundario . . . . . . . . . . . . . . . . . . . . 204
3.2.4. Pluralidad de demandados . . . . . . . . . . . . . . . . . . . . 204
3.3. Fueros especiales y tutela cautelar . . . . . . . . . . . . . . . . . . . . . . . 206
3.3.1. El foro especial en materia delictual o cuasidelictual . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 206
3.3.2. Medidas provisionales o cautelares . . . . . . . . . . . . . 209
IV. Cuestiones relativas a la determinación de la ley aplicable en el contexto de la Unión Europea . . . . . . . . . . . . . . . . . . . . . . . . . . 209
4.1. Fuentes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210
4.2. Autonomía de la voluntad . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212
4.3. Aplicación de las reglas generales . . . . . . . . . . . . . . . . . . . . . . . 213
4.3.1. La ley del lugar del perjuicio . . . . . . . . . . . . . . . . . . . 214
4.3.2. Excepciones a la regla territorial . . . . . . . . . . . . . . . . 216
V. Valoración . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218
EL REGLAMENTO EUROPEO DE INTELIGENCIA ARTIFICIAL: ÁMBITO DE APLICACIÓN ESPACIAL E INTERACCIONES CON EL SISTEMA DE DERECHO INTERNACIONAL PRIVADO
FERNANDO ESTEBAN DE LA ROSA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221
I. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
II. El Reglamento Europeo de Inteligencia Artificial: objetivos, caracterización, contenido, agentes obligados y ámbito de aplicación temporal y material . . . . . . . . . . . . . . . . . . . . . . . . . . . 226
III. Ámbito de aplicación espacial del Reglamento Europeo de Inteligencia Artificial . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231
3.1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231
3.2. La introducción o puesta en servicio de los sistemas de IA en la Unión . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235
3.3. El establecimiento o ubicación en la Unión del responsable del despliegue (la consecuencia del efecto Bruselas) . . . . . . . . . . . . 236
3.4. La utilización en la Unión de los resultados de salida generados por el sistema de IA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 237
3.5. La ubicación en la Unión de las personas afectadas . . . . . . . . . . 239
IV. Interacciones del RIA con otros estatutos y con el Sistema de Derecho Internacional Privado . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243
V. Consideraciones finales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 252
LA INTELIGENCIA ARTIFICIAL EN LA CADENA DE VALOR DE LAS EMPRESAS: HACIA UNA MAYOR DILIGENCIA DEBIDA
LORENA SALES PALLARÉS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 257
I. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 258
II. La magia no existe… . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 264
2.1. …pero la esclavitud moderna sí sigue existiendo . . . . . . . . . . . . 265
2.1.1. El continuo de explotación y la esclavitud . . . . . . . 269
2.1.2. ¿Podríamos implementar y proteger jurídicamente esta idea de continuo? . . . . . . . . . . . . . . . . . . . . . . . . 270
III. La dependencia humana de la IA y su encaje en la diligencia debida de la cadena de valor . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 274
3.1. La inteligencia artificial como palanca de valor y su sombra laboral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 280
INTELIGENCIA ARTIFICIAL, DERECHOS HUMANOS Y MEDIOAMBIENTE: ¿HACIA UN MARCO INTEGRADO DE GOBERNANZA Y RESPONSABILIDAD?
MARIA CHIARA MARULLO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 285
I. La IA y los derechos fundamentales . . . . . . . . . . . . . . . . . . . . . . 286
II. La interrelación entre los modelos de IA, los derechos humanos y el medioambiente . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290
III. De las desigualdades estructurales hacia un marco integral de gobernanza y responsabilidad . . . . . . . . . . . . . . . . . . . . . . . . . . . 295
IV. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 301