Derecho e Inteligencia Artificial
Su proyección en los derechos fundamentales

PRÓLOGO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
PARTE PRIMERA
RESPONSABILIDADES DERIVADAS DE LA IA A PARTIR DE LOS DERECHOS FUNDAMENTALES
CAPÍTULO 1
INTELIGENCIA ARTIFICIAL Y DERECHOS FUNDAMENTALES. UNA PERSPECTIVA DESDE EL DERECHO PRIVADO
ESPERANZA GALLEGO SÁNCHEZ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
IoT, big data e inteligencia artificial. Descripción y nociones básicas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
Ámbitos de aplicación . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
Retos jurídicos en el ámbito de los derechos fundamentales. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
Marco Normativo. El déficit en materia de Derecho Privado . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
Precedentes. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
La normativa de la Unión Europea . . . . . . . . . . . . . . . . . . . . . 40
Preliminar. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
El Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el
que se establecen normas armonizadas en materia de inteligencia artificial . . . . . . . . . . . . . . . . . . . . . . . 41
Directivas de responsabilidad civil de la inteligencia artificial. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
Directiva (UE) 2024/2853 del Parlamento Europeo y del Consejo, de 23 de octubre de 2024, sobre responsabilidad por los daños causados por productos defectuosos y por la que se deroga la Directiva
85/374/CEE del Consejo . . . . . . . . . . . . . . . . 46
Propuesta de Directiva del Parlamento Europeo y del Consejo relativa a la adaptación de las normas de responsabilidad civil extracontractual a la inteligencia artificial (Directiva sobre responsabilidad en
materia de IA) . . . . . . . . . . . . . . . . . . . . . . . . 48
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
Glosario . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
CAPÍTULO 2
SISTEMAS DE INTELIGENCIA ARTIFICIAL Y EL DAÑO
ELISA CORRADO. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
El problema del cumplimiento contractual mediante IA.
Encuadre sistemático . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
La IA como herramienta. Investigación sobre el criterio de imputación de la responsabilidad del deudor . . . . . . . . . . . . 60
Límites de aplicación y relevancia sistemática del art. 2236 del Código Civil . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
El riesgo creado como fundamento de la imputación . . . . . . 70
El art. 1228 del Código Civil y la IA: perfiles críticos . . . . . . 72
Coordinación con la responsabilidad del fabricante. . . . . . . 79
CAPÍTULO 3
EL ENCAJE DE LA RESPONSABILIDAD PENAL DERIVADA DEL USO DE LA INTELIGENCIA ARTIFICIAL EN LA TEORÍA JURÍDICA DEL DELITO: REFLEXIONES A PARTIR DE LOS DERECHOS FUNDAMENTALES
JON LÓPEZ GOROSTIDI . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
La inteligencia artificial como oportunidad para revisitar nuestros fundamentos penales . . . . . . . . . . . . . . . . . . . . . . . . . 87
Una revisión de la tipicidad en la responsabilidad penal derivada del uso de la inteligencia artificial. . . . . . . . . . . . . . 89
Una actualización de las figuras típicas. . . . . . . . . . . . . . . . . . 89
La tipicidad como categoría nuclear en la definición de un delito derivado del uso de la inteligencia artificial: a vueltas con su imputación objetiva . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 96
La relación de causalidad en la imputación objetiva del resultado de un delito derivado del uso de la inteligencia artificial . 100
La relación de riesgo en la imputación objetiva del resultado de un delito derivado del uso de la inteligencia artificial . . . . . 101
Conclusiones y perspectivas futuras . . . . . . . . . . . . . . . . . . . . 105
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106
Jurisprudencia. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
PARTE SEGUNDA
LA IA COMO HERRAMIENTA DE LA JUSTICIA
CAPÍTULO 4
JUSTICIA, INTELIGENCIA ARTIFICIAL Y DERECHOS FUNDAMENTALES
FRANCESCO ASTONE . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113
Premisa . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113
Derecho, formalismo, ciencias naturales . . . . . . . . . . . . . . . . . 115
Procesos, tecnología, la prueba de Turing. . . . . . . . . . . . . . . . 123
La prudencia al admitir el uso de la inteligencia artificial y sus razones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127
La inteligencia artificial e implementación constitucional: el trabajo insustituible del ser humano y el rechazo necesario de los métodos estadísticos. . . . . . . . . . . . . . . . . . . . . . . . 132
Primeras conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137
CAPÍTULO 5
ALGUNAS CUESTIONES SOBRE EL JUEZ ASISTIDO POR INTELIGENCIA ARTIFICIAL EN EL CONCURSO DE ACREEDORES
ANSELMO MARTÍNEZ CAÑELLAS. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 139
Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140
Usos de la inteligencia artificial en los procedimientos concursales en general. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141
El uso de la IA en la búsqueda documental . . . . . . . . . . . . . . 144
El uso de la IA para determinar la probabilidad de insolvencia del deudor . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144
La redacción de textos jurídicos en materia concursal . . . . . 148
El uso de sistemas de Inteligencia Artificial por parte de los abogados. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 148
El uso de la Inteligencia Artificial por parte de los jueces . . . . 152
Normativa española sobre el uso de la Inteligencia Artificial en la función jurisdiccional . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
Problemas no resueltos por la normativa española . . . . . . . . . 159
Conclusión . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 163
PARTE TERCERA
AFECTACIÓN DE DERECHOS EN LOS PROCESOS COGNITIVOS Y EN LA TOMA DE DECISIONES
CAPÍTULO 6
EL IMPACTO DE LA INTELIGENCIA ARTIFICIAL EN LA PRODUCCIÓN CIENTÍFICA
FABIO ADDIS. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
El contexto del cambio. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
Ciencia, responsabilidad y técnica: el principio de autorresponsabilidad. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171
Uso responsable de la IA: una gramática común . . . . . . . . . . 173
Hacia una nueva metodología de la investigación . . . . . . . . 176
El papel del Derecho y de las instituciones académicas . . . . 178
Una voz personal: ética de la prudencia, ética de la confianza, ética del cuidado . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182
La IA en la ciencia: una ocasión de regeneración. . . . . . . . . . 186
CAPÍTULO 7
EL DIÁLOGO ENTRE SERES HUMANOS COMO DERECHO FUNDAMENTAL Y LA JUSTICIA EPISTÉMICA
FRANCESCO RICCI . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189
PARTE CUARTA
AFECTACIÓN DE DERECHOS FUNDAMENTALES EN SECTORES RELEVANTES
CAPÍTULO 8
EL DERECHO DE LOS CONSUMIDORES A LA EXISTENCIA DE PRODUCTOS SEGUROS EN EL MERCADO
JAVIER LETE ACHIRICA. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203
Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204
Ámbito de aplicación. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207
Noción de producto . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 208
Productos excluidos del ámbito de aplicación del Reglamento 2023/988. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210
Productos que se introduzcan en el mercado o se comercialicen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212
Obligaciones de los operadores económicos . . . . . . . . . . . . . 213
Noción de producto seguro. . . . . . . . . . . . . . . . . . . . . . . . . . . . 214
Fabricante. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 216
Importador . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217
Distribuidor . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218
Representante autorizado. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219
Obligaciones de los prestadores de mercados en línea como intermediarios . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220
Obligaciones básicas de diligencia y conexión con el Reglamento de servicios digitales . . . . . . . . . . . . . . . . . . . . . . . . . . . 222
Órdenes frente a contenidos ilícitos relativos a la seguridad de los productos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225
Interacción con la exención de responsabilidad por alojamiento de contenidos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 227
Diseño y organización del interfaz en línea . . . . . . . . . . . . . . . 228
Recuperación del mercado de los productos peligrosos y medidas correctoras contractuales. . . . . . . . . . . . . . . . . . . . . . . 229
CAPÍTULO 9
HACIA UN NUEVO MODELO DE GESTIÓN DEL RIESGO CATASTRÓFICO: SEGUROS PARAMÉTRICOS
M.ª DOLORES MAS BADIA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233
Contexto: el sector financiero ante el riesgo climático . . . . . 234
Planteamiento . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234
Incidencia del riesgo climático en el sector financiero . . . . . . . 236
Los llamados seguros paramétricos o por índices . . . . . . . . . 238
Concepto y rasgos principales . . . . . . . . . . . . . . . . . . . . . . . . . 238
Incidencia de las nuevas tecnologías . . . . . . . . . . . . . . . . . . . . 241
Retos jurídicos de los seguros paramétricos. . . . . . . . . . . . . . . 242
El escollo representado por el principio indemnizatorio . . . 247
Ventajas e inconvenientes de los seguros paramétricos. . . . 249
La experiencia chilena . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251
Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 256
CAPÍTULO 10
LA OBLIGACIÓN DE SUPERVISIÓN HUMANA DE LOS SISTEMAS DE IA. ANÁLISIS GENERAL Y APLICACIÓN PRÁCTICA, CON ESPECIAL REFERENCIA AL ÁMBITO LABORAL
CARLOS FERNÁNDEZ HERNÁNDEZ . . . . . . . . . . . . . . . . . . . . . . . . . . . 261
Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 262
El marco conceptual de la supervisión humana de los sistemas de IA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 264
La supervisión humana en el Reglamento Europeo de IA. . 268
La obligación de contar con medidas adecuadas de supervisión humana para minimizar el riesgo. . . . . . . . . . . . . . . . . . . 271
Alcance general de la medida . . . . . . . . . . . . . . . . . . 271
El objetivo de la supervisión humana . . . . . . . . . . . 272
Alcance de las medidas de supervisión humana . . 273
Exigencia de que la supervisión humana sea efectiva. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 276
Exigencia de supervisión humana reforzada para los sistemas de vigilancia biométrica. . . . . . . . . . . . 280
Medidas aplicables para permitir la supervisión humana de los sistemas de IA de alto riesgo. . . . . . . . . . . . . . . . . . . . . . . . 281
Medidas aplicables en la fase de diseño del sistema . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 282
Medidas aplicables cuando el sistema está en uso. 283
La dificultad de aplicación de las medidas de supervisión humana . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 286
La supervisión humana en el ámbito laboral . . . . . . . . . . . . . 289
El marco normativo europeo . . . . . . . . . . . . . . . . . . . . . . . . . . 289
La Directiva sobre el trabajo en plataformas . . . . . . . . . . . . . . 291
Deber previo de informar a los trabajadores sobre la implantación de sistemas automatizados de seguimiento y toma de decisiones . . . . . . . . . . . . . . . . 292
Decisiones excluidas de la gestión automatizada . 294
Deber general de supervisión y evaluación de las decisiones automatizadas . . . . . . . . . . . . . . . . . . . . . 295
Deber de disponer de los recursos humanos adecuados para la supervisión y evaluación de las de‐
cisiones automatizadas . . . . . . . . . . . . . . . . . . . . . . . 296
Inmunidad de las personas encargadas de la supervisión y evaluación de las decisiones automatizadas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 297
Consecuencias de la supervisión o evaluación de las decisiones automatizadas . . . . . . . . . . . . . . . . . . 298
La resolución del Parlamento Europeo de 17 de diciembre de 2025, sobre gestión algorítmica del trabajo . . . . . . . . . . . . . . . 299
CAPÍTULO 11
¿CÓMO DEBE RESPONDER EL DERECHO AL USO DE LA INTELIGENCIA ARTIFICIAL EN SALUD? EL DISCUTIDO EQUILIBRIO ENTRE EL DESENVOLVIMIENTO DE LA ROBÓTICA Y EL DESARROLLO ARMONIZADO CON LOS DERECHOS FUNDAMENTALES
ELENA ATIENZA MACÍAS. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 303
Contextualización de la problemática objeto de estudio . . . 304
Matices y fronteras de figuras afines: robots, máquinas, Inteligencia Artificial, Robótica… . . . . . . . . . . . . . . . . . . . . . . . . 307
Tecnologías robóticas en el sector sanitario: marco conceptual. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 310
La tecnología robótica ante una crisis sanitaria . . . . . . . . . . . 312
La Inteligencia Artificial y la dinámica del Derecho. . . . . . . 315
Responsabilidad de los robots y la Inteligencia Artificial . . . . 316
Cuestiones conexas a la seguridad y comercialización. . . . . . . 320
Privacidad y protección de datos relativos a la salud (sensibles o especialmente protegidos). . . . . . . . . . . . . . . . . . . . . . . . 323
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 324