Responsabilidad por daños causados por productos inteligentes defectuosos a personas vulnerables
Daños a niñas, niños y adolescentes, mayores, personas con discapacidad y personas con menor alfabetización digital

RELACIÓN DE AUTORES ....................................... 11
PRESENTACIÓN
II CONGRESO INTERNACIONAL DAÑOS POR PRODUCTOS INTELIGENTES DEFECTUOSOS
LORENZO DEL RÍO FERNÁNDEZ .................................... 51
PRESENTACIÓN Y AGRADECIMIENTOS
INMACULADA SÁNCHEZ RUIZ DE VALDIVIA ........................... 55
PRÓLOGO
DEFECTOS DE SEGURIDAD DE LOS PRODUCTOS Y USOS ANÓMALOS DE LOS MISMOS POR PERSONAS ESPECIALMENTE EXPUESTAS A RIESGO: UNA PERSPECTIVA GENERAL
MIGUEL PASQUAU LIAÑO ......................................... 63
I. Seguridad y responsabilidad .............................. 63
II. Prevención y reparación .................................. 64
III. Una óptima asignación del coste de los accidentes ......... 66
IV. La singularidad de la regla de responsabilidad en materia de
daños por productos ..................................... 66
V. El estándar de seguridad esperable: ¿desde la perspectiva de quién? ................................................... 69
VI. Los productos especialmente dirigidos a categorías vulnerables de personas ......................................... 71
VII. El «uso razonablemente previsible» y los arcenes de seguridad para los grupos de personas más expuestas a daños ... 72
VIII. Los productos anómalos .................................. 76
IX. Consideraciones conclusivas .............................. 76
PARTE I
DAÑOS POR PRODUCTOS INTELIGENTES DEFECTUOSOS A PERSONAS VULNERABLES: PREVENCIÓN DE RIESGOS, CARGA DE LA PRUEBA, ASEGURAMIENTO Y REPARABILIDAD
CAPÍTULO I
DEFECTOS DE SEGURIDAD «UNIVERSAL» EN LA DIRECTIVA POR PRODUCTOS DEFECTUOSOS: PROTECCIÓN FRENTE A LA HIPERVULNERABILIDAD COGNITIVA EN ENTORNOS DIGITALES DE NIÑAS, NIÑOS, ADOLESCENTES, PERSONAS MAYORES Y PERSONAS CON DISCAPACIDAD
INMACULADA SÁNCHEZ RUIZ DE VALDIVIA ........................... 83
I. Seguridad «universal» online: la adición tecnológica y la hipervulnerabilidad cognitiva en entornos digitales, a debate . . 86
1. Tecnología en expansión y en tensión: vulnerabilidad tecnológica e hipervulnerabilidad cognitiva ........................... 86
2. Seguridad «universal»: mi propuesta doctrinal: Por una seguridad online para todas las personas. También para las más vulnerables ................................................ 88
II. La seguridad del producto: una herramienta para frenar el riesgo de dependencia emocional y mitigar la hipervulnerabilidad cognitiva de las personas vulnerables .............. 90
1. El legislador europeo se ocupa y preocupa por una IA «confiable» . 90
2. De la era analógica (Directiva por productos defectuosos 85/374/CEE) a la era digital (Directiva 2024/2853). El derecho de daños y la seguridad ...................................... 92
3. ¿Qué tienen que ver los defectos de seguridad con la dependencia tecnológica? La vulnerabilidad actúa como freno «natural» a una dependencia tecnológica excesiva y a ciegas ................. 94
4. La irrupción de productos dotados de sistemas de IA tensiona el derecho de consumo y el derecho de daños ................... 95
III. Condenadas meta y YouTube por crear diseños adictivos en sus plataformas: empresas tecnológicas declaradas responsables de dañar la salud mental de sus usuarias/os más vulnerables (hipervulnerables diría yo) ....................... 96
1. Planteamiento ......................................... 96
2. El uso compulsivo de redes sociales, a diferencia del uso compulsivo de videojuegos on-line, aún no ha sido calificado como enfermedad por la OMS. La indemnización de los daños causados a la
salud mental .......................................... 97
2.1. Planteamiento .................................... 97
2.2. La Directiva por productos defectuosos indica que son resarcibles (únicamente) los daños a la salud psicológica reconocidos médicamente .......................... 97
2.3. Dañar la salud mental en el entorno digital es un defecto de seguridad del producto, cada día más .............. 98
2.4. Defectos de seguridad y sentencias condenatorias de Meta (propietaria de Facebook, Instagram y WhatsApp) y YouTube por crear diseños adictivos en sus plataformas que dañan la salud mental de sus usuarias/os ......... 102
2.4.1. La desprotección de menores y la sobreexposición sexual en redes sociales. Primera sentencia/ Caso de Nuevo México que condena a Meta (375 millones de dólares) ........................ 103
2.4.2. La adición tecnológica a redes sociales de una niña californiana. Segunda Sentencia/caso de los Ángeles: condenas Meta y YouTube por crear adicción a redes sociales ..................... 104
IV. Defectos de seguridad de los productos y personas vulnerables en la directiva por productos defectuosos: por una «seguridad universal» .................................... 106
1. La seguridad «universal» como un principio jurídico implícito en la Directiva (UE) 2024/2583 ............................ 106
2. La convergencia entre «la seguridad universal» y la «responsabilidad civil» por productos defectuosos ........................... 109
3. ¿Qué se entiende por producto defectuoso? .................. 111
3.1. Introducción ..................................... 111
3.2. El acierto de ampliar la definición de producto permite incluir a los productos en la era digital ................ 112
3.3. Tipos de defectos que reconoce la Directiva ........... 113
4. Seguridad exigible y Seguridad esperable: una distinción que constituye una pieza esencial en el engranaje de activación el régimen de responsabilidad por productos defectuosos ........... 114
4.1. Introducción ..................................... 114
4.2. El caso Boston Scientific (C-503/13 y C-504/13): la vulnerabilidad como parámetro de seguridad que «refuerza el estándar de seguridad» ............................ 115
4.3. ¿Qué entiende el TJUE del caso Boston Scientific (C-503/13 y C-504/13) por «vulnerabilidad de la persona usuaria»? ........................................ 115
4.4. ¿Qué aporta la Sentencia Boston Scenif? .............. 116
4.5. ¿Cómo se refleja esta vulnerabilidad de la persona usuaria en la sentencia europea Boston Scientific? ............. 118
4.6. La vulnerabilidad de las personas usuarias es el fundamento implícito que justifica la protección reforzada y la Directiva por productos defectuosos 2024/5283 positiviza esta doctrina del TJUE en la sentencia Boston Scientific (C-503/13 y C-504/13) ............................. 120
4.7. El acierto de positivizar la doctrina Boston Scientific en la Nueva Directiva de Responsabilidad por Productos. Consecuencias sistemáticas de la incorporación del criterio de vulnerabilidad en la teoría general del concepto de «defecto» ........................................... 122
4.8. El legislador español no podrá ignorar la doctrina Boston Scientific: tendrá que integrarla, consolidarla y positivizarla ............................................ 122
4.9. El defecto equivale a la «falta de seguridad que razonable y mínimamente cabría esperar» ..................... 124
4.9.1. La «seguridad» entendida como un concepto dinámico ...................................... 125
4.9.2. La obligación y responsabilidad del productor de prever la evolución del riesgo ................. 126
5. Seguridad exigible y Seguridad esperable a través de ejemplos: Chatbot conversaciones y robótica asistencial transforman el ámbito de atención y cuidado de las niñas, niños y adolescentes y personas mayores ....................................... 126
5.1. «Seguridad exigible» (obligatoria) ................... 127
5.2. «Seguridad esperable» ............................. 132
5.2.1. Seguridad emocional ........................ 132
5.2.2. Seguridad cognitiva ......................... 138
5.2.3. Seguridad social ............................ 139
5.3. Accesibilidad y seguridad en sistemas robóticos: una convergencia necesaria para un uso seguro del producto ... 141
5.4. ¿Cómo interactúan ambas capas de responsabilidad en un chatbots o robot asistencial? ........................ 142
6. Otros Ejemplos de productos inteligentes: marcapasos, desfibriladores, andadores inteligentes defectuosos .................... 143
6.1. Dispositivos médicos implantables (marcapasos, desfibriladores): el paradigma de Boston Scientific ............ 144
6.2. Andadores o ayudas técnicas para personas mayores ... 144
6.3. Dispositivos de monitorización cardíaca conectados (IoT) ............................................ 144
6.4. Juguetes electrónicos con piezas pequeñas desprendibles ........................................... 144
6.5. Bombas de insulina para niñas, niños y mayores diabéticos ............................................ 145
6.5.1. Sillas de coche infantiles con anclajes debilitados 145
6.5.2. Cascos de bicicleta para ciclistas profesionales vs. usuarios ocasionales ........................ 145
6.5.3. A modo de recapitulación .................... 145
V. Consecuencias, reacciones e impacto en Europa y España que causaran las sentencias que condenan a meta y YouTube .... 146
1. Impacto en la OMS ..................................... 146
2. Impacto en Europa ..................................... 147
2.1. Una normativa robusta, pero mejorable ............... 147
2.2. La sorprendente y más que discutible había dado un paso atrás en la confiabilidad de los productos IA: De la sobrerregulación a una simplificación criticable: el proyecto ómnibus . . . . . . . . . . . . . . . . . . . 148
2.3. ¿Sanción administrativa o resarcimiento civil? ¡Esta es la cuestión! ......................................... 153
3. Impacto en España ..................................... 157
4. ¿Beneficios económicos vs Seguridad del producto? ........... 159
VI. A modo de recapitulación ................................. 161
VII. Bibliografía .............................................. 165
CAPÍTULO II
TIPOS DE DAÑOS CAUSADOS POR LOS SISTEMAS DE IA Y DIFICULTADES DE SU RESARCIMIENTO
MIQUEL MARTÍN CASALS ......................................... 169
I. Riesgos y tipología de daños .............................. 170
1. Introducción ........................................... 170
2. Riesgos de seguridad y riesgos para los derechos fundamentales . 173
3. Riesgos que se materializan en otros tipos de daños ........... 175
3.1. Riesgos que dan lugar a «daños patrimoniales puros» ... 176
3.2. Riesgos que dan lugar a daños morales puros .......... 178
3.2.1. La difícil distinción entre daño emocional y daño psíquico determinable medicamente ........... 178
3.2.2. La difícil distinción entre daño moral puro (resarcible) y contratiempos de la vida ordinaria (no resarcibles) .................................. 180
II. Daños cubiertos por las Propuestas de la UE para la regulación de los daños causados por sistemas de IA ............ 183
1. Daños cubiertos por la Propuesta de Reglamento del Parlamento europeo y perjuicios resarcibles ............................ 183
1.1. Introducción ..................................... 183
1.1.1. La responsabilidad objetiva para los daños causados por sistemas de IA de «alto riesgo» ........ 185
1.1.2. La responsabilidad subjetiva para los otros sistemas de IA ................................. 185
1.2. Daños cubiertos .................................. 186
1.3. Perjuicios resarcibles y limitación de su importe ....... 187
2. La doble vía de la Directiva de productos y de la Propuesta de Directiva sobre responsabilidad en materia de IA ............ 189
3. Daños cubiertos y perjuicios resarcibles por la Directiva de productos ................................................ 192
3.1. Daños cubiertos .................................. 192
3.2. Perjuicios resarcibles: Los perjuicios patrimoniales y extrapatrimoniales derivados de los tres tipos de daño cubiertos por la Directiva ............................. 194
4. Daños cubiertos y perjuicios resarcibles por la Directiva de responsabilidad por IA ..................................... 195
III. Lagunas regulatorias respecto a los daños causados por los sistemas de IA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197
1. Lagunas de protección de la Directiva de productos ........... 197
1.1. Daños causados a las personas jurídicas .............. 197
1.2. Daños causados por los usuarios de sistemas de IA ..... 198
1.3. Daños causados a determinados bienes ............... 199
1.4. Daños patrimoniales puros ......................... 199
1.5. Daños morales puros .............................. 200
2. Lagunas de protección de la Propuesta de Directiva de responsabilidad por IA .......................................... 200
2.1. Sistemas de IA prohibidos .......................... 201
2.2. Sistemas de IA de uso general (GPAI) ................ 201
IV. Epílogo: La necesidad de colmar las lagunas de protección y posibles modos de hacerlo ................................ 203
CAPÍTULO III
DEL ALGORITMO AL DAÑO: RESPONSABILIDAD CIVIL Y PROTECCIÓN DE LOS CONSUMIDORES VULNERABLES FRENTE A LA INTELIGENCIA ARTIFICIAL
PASCUAL MARTÍNEZ ESPÍN ........................................ 209
I. Introducción ............................................. 210
1. Justificación del estudio: la emergencia de la IA como riesgo jurídico .................................................. 211
2. Objetivos y metodología .................................. 213
3. Delimitación conceptual: productos inteligentes, IA y consumidores vulnerables ......................................... 214
II. El producto inteligente como objeto de responsabilidad civil . . 215
1. Naturaleza jurídica del producto inteligente: ¿bien, servicio, sistema? .................................................. 215
2. El algoritmo como componente funcional del producto ........ 216
3. Riesgos inherentes: autonomía, opacidad, imprevisibilidad ..... 217
III. Marco normativo aplicable en la Unión Europea y en España . 219
1. Derecho europeo: Directiva sobre responsabilidad por productos defectuosos, Reglamento de IA y propuesta de Directiva sobre IA y responsabilidad civil .................................... 219
2. Derecho español: Código Civil, TRLGDCU y normativa sectorial . 221
3. Tensiones entre normativa clásica y nuevas realidades tecnológicas ................................................. 222
IV. Consumidores vulnerables frente a la inteligencia artificial . 223
1. Concepto jurídico de vulnerabilidad: evolución y criterios ...... 223
2. Tipologías de vulnerabilidad: cognitiva, digital, económica, funcional ................................................ 224
3. Riesgos específicos de la IA para consumidores vulnerables: sesgos algorítmicos, exclusión, manipulación ...................... 226
V. Imputación del daño en entornos algorítmicos ............. 227
1. Causalidad en sistemas autónomos: retos epistemológicos y jurídicos ................................................... 227
2. El problema del nexo causal en entornos de opacidad algorítmica ................................................... 228
3. Responsabilidad objetiva vs. responsabilidad por culpa en productos inteligentes ......................................... 229
4. Reglas prácticas de imputación en productos inteligentes ...... 230
VI. Aspectos probatorios en la responsabilidad por productos inteligentes defectuosos .................................. 230
1. Carga de la prueba: ¿quién prueba qué en el entorno algorítmico? ................................................... 230
2. Prueba del defecto, del daño y del nexo causal ................ 231
3. Prueba del funcionamiento algorítmico: trazabilidad, auditabilidad, explicabilidad ...................................... 232
4. Inversión de la carga probatoria y presunciones legales ........ 233
5. Valor probatorio de los registros digitales y logs algorítmicos ... 234
VII. Propuestas de mejora normativa y doctrinal ............... 235
1. Necesidad de una presunción de defectuosidad en productos inteligentes ............................................... 235
2. Mecanismos de tutela reforzada para consumidores vulnerables . . 236
3. Modelos de responsabilidad adaptados a la IA: responsabilidad compartida, por diseño, por supervisión .................... 237
4. Recomendaciones para la prueba en sede judicial: peritajes algorítmicos, estándares técnicos, acceso a la información ......... 238
VIII. Conclusiones ............................................ 238
1. Principales hallazgos .................................... 238
2. Líneas de investigación futura ............................ 239
3. Relevancia práctica para operadores jurídicos y técnicos ....... 240
IX. Referencias .............................................. 241
1. Normativa ............................................ 241
2. Jurisprudencia ......................................... 242
3. Bibliografía científica ................................... 242
CAPÍTULO IV
IA, SUPERVISIÓN HUMANA Y PERSONAS VULNERABLES
MOISÉS BARRIO ANDRÉS .......................................... 245
I. Introducción ............................................. 245
II. Los sistemas de IA en nuestras sociedades: ¿IA buena y mala? .................................................... 247
III. El paradigma del Reglamento de IA de la UE respecto a la IA responsable .............................................. 252
IV. Conclusiones ............................................ 264
CAPÍTULO V
EVIDENCIA JUDICIAL EN LA ERA DIGITAL: PRUEBA Y CARGA PROBATORIA EN RECLAMACIONES POR PRODUCTOS DEFECTUOSOS
ENRIQUE SANJUÁN Y MUÑOZ ...................................... 267
I. Desde la prueba clásica hasta un régimen escalonado de presunciones en relación al acceso a las fuentes de prueba .... 268
II. Sobre el mandato a los Estados referido a la regulación de la prueba .................................................. 273
III. Sobre la disclousure of evidence o acceso a las fuentes de prueba .................................................. 276
IV. La distribución de la carga probatoria y la doctrina del Tribunal Supremo Español ..................................... 279
1. Las bases del sistema de presunciones ...................... 279
2. La carga del demandado ................................. 281
3. La carga del demandante ................................ 281
4. Las presunciones respecto del nexo causal ................... 283
5. Las presunciones en derecho español ....................... 283
V. Criterios subjetivos, objetivos y mixtos en las exenciones de responsabilidad .......................................... 285
VI. Los mandatos de valoración de la prueba .................. 290
1. La judicialización de la racionalidad probatoria . . . . . . . . . . . . . 290
2. La tensión con el sistema español .......................... 292
VII. Conclusiones ............................................ 294
VIII. Bibliografía .............................................. 299
CAPÍTULO VI
RIESGOS EN SISTEMAS IA: ROBÓTICA, IA Y AUTOMATIZACIÓN DE PROCESOS. IMPACTO EN LAS PERSONAS MAYORES Y LAS PERSONAS CON DISCAPACIDAD
FRANCISCO SICILIA GUTIÉRREZ .................................... 303
I. Evaluación del riesgo en sistemas IA ...................... 304
1. El deber de prevención de riesgos en sistemas IA, robótica y automatización de procesos. Personas vulnerables y personas con discapacidad ............................................. 306
2. Evaluación del riesgo, especialmente en mayores y personas con discapacidad .......................................... 310
3. Aspectos y considerandos en la evaluación de la seguridad de los productos, también en SIA ............................... 310
4. Aspectos relevantes adicionales a tener en cuenta en la evaluación del riesgo .......................................... 312
5. Otros aspectos a tener en cuenta ........................... 312
6. Clasificación de los Niveles de Riesgo en el RIA .............. 313
6.1. Nivel de Riesgo Alto ............................... 313
6.1.1. El cálculo de la probabilidad del daño como elemento clave en el RIA y su impacto en las personas mayores y con discapacidad .............. 317
6.1.2. En personas mayores es mayor la probabilidad de ocurrencia del daño ......................... 319
6.1.3. Las consecuencias del accidente relacionado con SIA también revisten mayor gravedad, en personas mayores y en personas con discapacidad .... 320
6.1.4. Sobre el necesario control de los riesgos generados por SIA de «Alto riesgo» .................. 325
6.2. Sin riesgo considerable ............................ 326
6.3. Riesgo inaceptable ................................ 327
6.4. Nivel de riesgo limitado ............................ 329
7. Sobre el Riesgo sistémico en IA de uso general ............... 330
8. Conclusión sobre el uso de SIA en personas vulnerables (personas mayores y con discapacidad) ............................. 331
II. Riesgos de sistemas de IA componentes de seguridad de productos ................................................... 332
1. Aplicaciones en la sociedad de los Robots .................... 332
1.1. Los robots en las fábricas ........................... 332
1.2. Robots con fines de asistencia sanitaria y atención personal en sanidad .................................... 333
2. Factores de riesgo en robótica y automatización de procesos .... 334
2.1. Riesgos físicos (accidente) .......................... 337
2.2. Riesgos psicosociales .............................. 339
2.2.1. Riesgos asociados a la Asignación de tareas (FA) y consecuencias humanas .................... 339
2.2.2. Riesgos asociados al Diseño de tareas (T) ...... 340
2.2.3. Riesgos asociados a «Interaction desing» (I) .... 341
2.2.4. Riesgos relacionados con la Operación y supervisión en HRI (O) ............................ 342
2.2.4.1. Riesgo a la Sensación de pérdida de empleo ............................ 342
2.2.4.2. Riesgo por la Infrautilización del Sistema IA ............................. 344
2.2.4.3. Riesgo por la falta de Supervisión del SIA Robótico ........................ 344
2.3. Riesgos Organizacionales .......................... 344
3. Conclusión de los riesgos en SIA robóticos ................... 345
III. Conclusiones generales ................................... 346
CAPÍTULO VII
IA, TECNOLOGÍA Y RELACIONES LABORALES: DAÑOS PRODUCIDOS A TRABAJADORES
POMPEYO GABRIEL ORTEGA LOZANO ............................... 349
I. Contexto de las revoluciones industriales en materia laboral . . 349
II. Accidentes de trabajo y robots: ¿concurrencia de culpabilidad? ..................................................... 358
III. La existencia de conflictos en las relaciones laborales consecuencia de la tecnología y la libertad de expresión ......... 366
IV. Algunas reflexiones jurídicas .............................. 381
V. Bibliografía .............................................. 383
CAPÍTULO VIII
EL ASEGURAMIENTO DE LA RESPONSABILIDAD CIVIL DERIVADA DE LA INTELIGENCIA ARTIFICIAL
FCO. JAVIER MALDONADO MOLINA ................................. 389
I. Las dificultades de la industria del Seguro para cubrir los riesgos derivados de la IA ................................ 390
1. La cobertura de nuevos tipos de riesgos y la función actuarial .. 390
2. Otras dificultades para la cobertura. La imprevisibilidad y opacidad en algunos sistemas de IA ............................ 393
II. ¿Seguros obligatorios de responsabilidad civil para los sistemas de IA? .............................................. 395
III. ¿Seguros de RC vinculados a los sistemas de IA, o a la actividad realizada con la IA? ................................. 401
IV. La facultad de repetición o el derecho de subrogación del asegurador .............................................. 407
V. ¿Seguros específicos para las actividades realizadas o relacionadas con IA, o inclusión expresa de nuevos riesgos en los seguros actuales? ........................................ 410
VI. Conclusiones ............................................ 414
VII. Bibliografía .............................................. 415
CAPÍTULO IX
PRODUCTOS INTELIGENTES DEFECTUOSOS Y FUNCIÓN SOCIAL DEL SEGURO: INCLUSIÓN, NO DISCRIMINACIÓN Y COMPENSACIÓN DE COLECTIVOS VULNERABLES EN EL MARCO
DE LA DIRECTIVA (UE) 2024/2853
PILAR DOMÍNGUEZ MARTÍNEZ ..................................... 417
I. Introducción ............................................. 417
II. La Directiva (UE) 2024/2853 y la responsabilidad por productos defectuosos ....................................... 419
III. La responsabilidad civil por productos defectuosos y la necesidad de cobertura aseguradora ........................... 423
1. El aseguramiento de los daños causados por productos inteligentes defectuosos: el papel del Consorcio de Compensación de Seguros (CCS) ............................................. 426
2. El enfoque de la Directiva (UE) 2024/2853: Presunciones, ampliación de responsables y mecanismos alternativos al seguro obligatorio ............................................... 428
IV. Inclusión financiera, no discriminación y colectivos vulnerables ..................................................... 430
1. La inclusión financiera en el ámbito asegurador ............. 430
2. Colectivos vulnerables y barreras de acceso al seguro .......... 431
V. Fondos de garantía y mecanismos subsidiarios de compensación ................................................... 434
VI. Innovación tecnológica, seguros y riesgos de discriminación . . 437
VII. Conclusiones ............................................ 439
VIII. Bibliografía .............................................. 441
CAPÍTULO X
LA REPARACIÓN DE LOS BIENES SOSTENIBLES COMO ELEMENTO O FACTOR INTEGRANTE DE LA ECONOMÍA CIRCULAR EUROPEA
KLAUS JOCHEN ALBIEZ DOHRMANN ................................ 443
I. Introducción ............................................. 444
II. La reparabilidad de los bienes como presupuesto previo a la reparación en la economía circular ........................ 449
III. El derecho de reparación de los bienes sostenibles: un nuevo derecho en la economía circular .......................... 451
1. De la reparación como derecho a convertirse en un elemento integrante de la economía circular ............................ 451
1.1. La reparación como derecho subjetivo en general y en el Derecho de consumo .............................. 451
1.2. El nuevo derecho de reparación en la legislación europea reciente ......................................... 456
2. Mantenimiento, reparación, reacondicionamiento y remanufacturación de bienes en la economía circular: actividades específicas y a la vez interrelacionadas ........................... 458
2.1. Actividades específicas y a la vez interrelacionadas ..... 458
2.2. El mantenimiento ................................. 459
2.3. La reparación ..................................... 460
2.4. El reacondiocionamiento . . . . . . . . . . . . . . . . . . . . . . . . . . . 461
2.5. La remanufacturación .............................. 462
3. El ciclo vital de los bienes/productos en la economía circular ... 463
4. El diseño ecológico /ecodiseño ............................ 464
5. El pasaporte digital del producto .......................... 468
IV. La reparación de los bienes según la Directiva (UE) 2024/1799 .............................................. 469
1. Consideraciones generales ................................ 469
2. La obligación legal de reparación del fabricante. La acción de reparación ............................................ 471
2.1. La obligación de reparación del fabricante: una obligación legal ............................................ 471
2.2. Condiciones generales de la obligación de reparación ... 476
2.3. La obligación de información relativa a la reparación por parte del fabricante ................................ 480
2.4. Negativa del fabricante a la reparación ................ 481
2.5. La reparación por empresas subcontratadas ........... 481
3. Otros operadores económicos obligados legalmente a reparar en la economía circular .................................... 482
4. Los reparadores profesionales independientes ................ 483
5. La obligación legal del vendedor de reparar por falta de conformidad .................................................. 486
6. El Formulario Europeo de información sobre la reparación .... 488
7. El contrato de reparación ................................ 492
7.1. El contrato de reparación como contrato de prestación de servicios ......................................... 492
7.2. Algunas características del contrato de reparación ...... 493
7.3. Contenido mínimo del contrato de reparación ......... 495
7.4. El servicio de diagnóstico .......................... 495
7.5. La subcontratación ................................ 496
7.6. Reparaciones participativas ......................... 497
7.7. Consideración final ................................ 498
8. La plataforma europea y las plataformas nacionales en línea sobre reparaciones ........................................ 499
8.1. La plataforma europea en línea sobre reparaciones y las secciones nacionales ............................... 499
8.2. Las plataformas nacionales en línea sobre reparaciones . . 501
8.3. Funciones de las secciones nacionales que utilizan la interfaz en línea común y las plataformas nacionales en línea . . 502
8.4. Designación de los puntos de contacto nacionales ...... 503
9. Medidas financieras para incentivar la reparación ........... 504
10. Medidas de apoyo a las pymes ............................. 506
V. Bibliografía .............................................. 506
PARTE II
DAÑOS POR PRODUCTOS INTELIGENTES DEFECTUOSOS A NIÑAS, NIÑOS Y ADOLESCENTES (PERSONAS MENORES)
CAPÍTULO XI
DEL OSITO DE PELUCHE AL SMART TOY: PROTECCIÓN DEL MENOR Y SEGURIDAD DEL JUGUETE
EULALIA MORENO TRUJILLO ....................................... 513
I. Proteger a los menores en la hora del juego: juguetes seguros, una aspiración de la legislación ....................... 514
1. Del juego y el juguete .................................... 514
2. La evolución del juguete: desde el juguete tradicional a la incorporación de las nuevas tecnologías ......................... 516
II. Hacia el juguete seguro: la seguridad material ............. 520
1. La prevención de daños: La normalización del juguete ........ 522
2. El Reglamento 2025/2509 de Seguridad de los juguetes ....... 526
III. El juguete en la era digital: la seguridad de los juguetes inteligentes y los juguetes conectados ......................... 529
IV. ¿Nos espían los juguetes? Privacidad del menor y juguetes conectados .............................................. 537
V. La seguridad de los juguetes no es un juego ............... 544
VI. Conclusiones ............................................ 545
CAPÍTULO XII
LAS PERSONAS MENORES DE EDAD COMO CONSUMIDORES VULNERABLES ANTE LOS DAÑOS DERIVADOS DEL ENTORNO VIRTUAL
MARTA MORILLAS FERNÁNDEZ .................................... 549
I. Introducción ............................................. 549
II. NNA como consumidores digitales: capacidad contractual y vulnerabilidad ........................................... 551
III. Riesgos del entorno digital en la infancia y adolescencia .... 558
1. Principales riesgos asociados al uso de tecnologías digitales .... 559
2. Riesgos en el ámbito del consumo digital: dimensión económica y conductas adictivas ..................................... 563
IV. Algunas respuestas normativas desde la prevención ........ 568
V. Valoraciones finales ...................................... 572
VI. Bibliografía consultada ................................... 574
CAPÍTULO XIII
EL SHARENTING ­ LA PÉRDIDA DEL REINO DE LA INTIMIDAD
ICIAR LÓPEZ-VIDRIERO TEJEDOR ................................... 577
I. Introducción: el «llanto de Boabdil» en la era del algoritmo . . 577
II. Delimitación conceptual del sharenting ................... 578
III. Tipologías funcionales del sharenting y gradación del riesgo jurídico .................................................. 581
1. Sharenting relacional ................................... 581
2. Sharenting proyectivo ................................... 583
3. Sharenting de conflicto .................................. 584
4. Sharenting comercial ................................... 585
5. Sharenting de vulnerabilidad ............................. 588
6. Proxy sharenting: identidad digital antes de nacer ............ 589
IV. El encaje del sharenting en el ámbito material del RGPD: ¿actividad doméstica o tratamiento regulado? .............. 591
V. El ecosistema normativo: de la tutela constitucional a la gobernanza de datos ........................................ 593
VI. Jurisprudencia y AEPD ................................... 596
VII. Dimensión técnica y riesgo algorítmico .................... 597
VIII. Conclusión .............................................. 600
IX. Bibliografía .............................................. 600
CAPÍTULO XIV
ENTRE EL JUEGO INOCENTE Y EL RIESGO ALGORÍTMICO.
MENORES Y DISCAPACIDAD ANTE LOS SMART TOYS O JUGUETES INTELIGENTES EN EL UNIVERSO DIGITAL
ANA MARÍA DE TORO NEGRO ...................................... 603
I. Introducción ............................................. 604
II. Del juguete tradicional al «juguete inteligente» ............. 607
1. Concepto de «juguete inteligente» o «smart toys» ............. 607
2. Tipología de «juguetes inteligentes» ........................ 608
3. El fenómeno del internet of toys .......................... 610
III. Problemas algorítmicos en los juegos inteligentes .......... 613
1. Sesgos algorítmicos y reproducción de estereotipos ............ 615
2. Opacidad algorítmica, falta de transparencia y explicabilidad .. 616
3. Personalización algorítmica y manipulación conductual ....... 618
IV. Riesgos jurídicos y éticos para la población vulnerable consumidora ................................................ 618
1. Cuestiones previas ...................................... 618
2. La vulneración de la privacidad infantil como riesgo prioritario . 619
2.1. Edad de consentimiento digital vs. capacidad civil del menor .............................................. 620
2.2. Recopilación, tratamiento de datos y perfilado de menores . 622
2.2.1. Recopilación de datos ....................... 622
2.2.2. Tratamiento de datos ........................ 623
2.2.3. Perfilado de menores. Las grabaciones de voz .. 624
3. Riesgos de ciberseguridad: hackeo y filtración de datos ........ 625
3.1. El hackeo ........................................ 626
3.2. Filtración de datos personales ....................... 626
3.3. ¿Podemos hacer algo ante esta no querida sobreexposición de datos? .................................... 627
3.4. Riesgos jurídico-penales asociados al uso de juguetes inteligentes .......................................... 628
4. Su condicionamiento en el desarrollo infantil ................ 629
4.1. Interacción emocional con máquinas: el «Tamagotchi effect» ........................................... 629
4.2. Dependencia tecnológica y sustitución de la interacción social ............................................ 631
5. Menores con necesidades especiales o algún tipo discapacidad ante los riesgos de juguetes inteligentes ..................... 632
5.1. El plus de su vulnerabilidad psicológica ............... 632
5.2. Riesgos jurídico-penales asociados al uso de juguetes inteligentes en el ámbito de la discapacidad .............. 634
V. La importancia de la ética en la IA ........................ 634
VI. La responsabilidad civil derivada de los juguetes inteligentes: régimen jurídico aplicable ............................ 636
1. En el caso de menores ................................... 637
2. En el caso de menores con discapacidad .................... 639
VII. Conclusiones ............................................ 642
VIII. Bibliografía .............................................. 643
CAPÍTULO XV
LA RESPONSABILIDAD CIVIL MÉDICA POR EL USO DE SISTEMAS DE INTELIGENCIA ARTIFICIAL Y ROBÓTICOS
MIGUEL ÁNGEL MORENO NAVARRETE ............................... 647
I. Derecho de daños, ecosistema sanitario europeo, IA y robótica ...................................................... 647
II. Fases de los modelos de inteligencia artificial y la robótica como producto sanitario .................................. 652
1. Fase de diseño y desarrollo ............................... 653
2. Fase de despliegue o puesta en servicio. La evaluación de la conformidad (MDR) ....................................... 654
3. Fase de uso y supervisión por los sistemas de salud ............ 656
III. La responsabilidad civil distributiva y por riesgo en el ámbito sanitario por la fabricación y uso de productos IA y robótica de carácter sanitario. Problemas de imputación ............ 658
IV. Conclusiones ............................................ 664
CAPÍTULO XVI
REFLEXIONES SOBRE LA RESPONSABILIDAD CIVIL DE LA INTELIGENCIA ARTIFICIAL COMO PRODUCTO DEFECTUOSO
MARGARITA OROZCO GONZALEZ y GUILLERMO OROZCO PARDO ......... 667
I. La responsabilidad civil por los daños causados por la IA .. 668
1. La Responsabilidad civil: su concepción actual ............... 669
2. Requisitos o presupuestos de la Responsabilidad Civil. Especial referencia al daño ...................................... 673
2.1. Un acto u omisión ilícitos ........................... 673
2.2. El daño: concepto, valoración y naturaleza ............ 674
2.3. El nexo causal .................................... 680
2.4. La culpa ......................................... 681
3. Compatibilidad de la responsabilidad civil contractual y extracontractual ............................................... 682
II. La inteligencia artificial como actividad de riesgo y sus consecuencias ............................................... 683
1. Introducción ........................................... 683
2. La IA como producto y sus consecuencias en orden a la Responsabilidad Civil ........................................... 686
3. Sobre la Responsabilidad civil extracontractual .............. 698
III. A modo de conclusión .................................... 701
PARTE III
DAÑOS POR PRODUCTOS INTELIGENTES DEFECTUOSOS A PERSONAS MAYORES Y PERSONAS CON DISCAPACIDAD
CAPÍTULO XVII
LAS PERSONAS CON DISCAPACIDAD COMO CONSUMIDORAS. ZONAS DE RIESGO Y TRAMPAS DEL MERCADO
FERNANDO SANTOS URBANEJA .................................... 707
I. El consumo: necesidad y relación de poder ................ 708
II. La tensión mercado­consumidor .......................... 709
1. La tensión mercado-consumidor ........................... 709
2. Normas para consumidores especialmente vulnerables; los peregrinos ................................................ 710
2.1. En el mercado .................................... 710
2.2. En la posada ...................................... 710
2.3. Como deudores ................................... 711
III. Europa y Estados Unidos: el vertiginoso incremento del desequilibrio ................................................ 712
1. La predicción de Karl Polanyi ............................ 712
2. Situación en Europa .................................... 712
2.1. Recuperar Europa como espacio económico - La influencia de Jean Monnet ................................ 712
2.2. La declaración de Robert Schuman —9 de mayo de 1950— . 713
3. Situación en Estados Unidos - La desregularización (1973) .... 713
3.1. El Discurso de J F Kennedy - 15 de marzo de 1962 ..... 713
3.2. La desregulación económica —1973— ............... 715
3.3. Los lobbys ....................................... 715
4. La defensa de los consumidores en las constituciones - derechos e intereses difusos ........................................ 716
5. Las acciones colectivas .................................. 716
6. Perspectiva de las personas con discapacidad . . . . . . . . . . . . . . . . 717
6.1. La consideración de las personas con discapacidad en la historia .......................................... 717
6.2. Las distintas etapas del proceso de conquista de la dignidad de las personas con discapacidad ................ 718
IV. Distintas condiciones de consumidores .................... 721
1. El cuento del consumidor medio, diligente, bien informado y perspicaz ................................................. 721
2. El ciudadano medio como consumidor vulnerable ............ 722
3. Ventajas legales previstas para el consumidor vulnerable ...... 723
3.1. En el ámbito procesal .............................. 723
3.2. En ámbito material ................................ 724
4. Tránsito del consumidor medio al consumidor vulnerable en el Derecho europeo ....................................... 724
5. La condición de consumidor especialmente vulnerable en el derecho interno ............................................ 726
5.1. Vulnerabilidad por razones sociales y económicas ...... 727
5.2. Vulnerabilidad por razón de edad .................... 728
5.3. Vulnerabilidad por razón de discapacidad física o sensorial .............................................. 729
5.4. Vulnerabilidad por razón de discapacidad psíquica ..... 729
6. el consumidor especialmente vulnerable por razón de discapacidad física o sensorial .................................... 729
6.1. Clasificación básica ................................ 729
6.2. Accesibilidad . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 729
6.3. La validez de los contratos .......................... 733
V. El consumidor especialmente vulnerable por razón de discapacidad psíquica ......................................... 733
1. Colectivos de consumidores especialmente vulnerables por razón de discapacidad psíquica ................................. 733
1.1. Discapacidad intelectual ............................ 734
1.2. Trastorno o anomalía mental ........................ 734
1.3. Demencias ....................................... 735
2. Accesibilidad a la contratación de bienes y servicios ........... 736
3. El uso de la inteligencia artificial en relación con las personas vulnerables por razón de discapacidad ...................... 736
4. Los ciberderechos ....................................... 738
VI. Personas con discapacidad psíquica y consumo: zonas de riesgo — las trampas del sistema— validez de los contratos . . 739
1. Planteamiento ......................................... 739
2. Zonas de riesgo por iniciativa propia ....................... 739
2.1. Acceso a juegos y apuestas ......................... 739
2.2. Abuso de tarjetas de crédito ........................ 739
2.3. Contratación «on line» de bienes y servicios ........... 740
3. Zonas de riesgo por iniciativa de terceros ................... 740
3.1. Contratación telefónica de bienes y servicios .......... 740
3.2. Créditos de alto interés a corto plazo ................. 740
3.3. Estafas «on line» - modalidades de phising ............. 741
3.4. Responsabilidad de las entidades financieras por los delitos cometidos contra sus clientes - modalidades de phising ... 741
4. Validez de los contratos - causas de rescisión y de nulidad ...... 742
VII. Estudio de la directiva (UE) 2024/2853 del parlamento europeo y del consejo de 23 de octubre de 2024 sobre responsabilidad por los daños causados por productos defectuosos .......... 744
VIII. Conclusiones ............................................ 744
IX. Bibliografía .............................................. 746
CAPÍTULO XVIII
LA INTELIGENCIA ARTIFICIAL Y LAS PERSONAS CON DISCAPACIDAD
LAURA GÁZQUEZ SERRANO ........................................ 749
I. Introducción ............................................. 749
II. Marco Normativo personas con discapacidad e inteligencia artificial ................................................. 757
III. Derechos de las personas con discapacidad y la inteligencia artificial ................................................. 769
IV. Derechos de las personas con discapacidad que se pueden vulnerar con la Inteligencia Artificial ...................... 773
1. Derecho a la no discriminación (Art. 5 CDPD) .............. 773
2. Derecho a la accesibilidad (Art. 9 CDPD) .................. 774
3. Derecho a la educación inclusiva (Art. 24 CDPD) ........... 774
4. Derecho al trabajo y empleo (Art. 27 CDPD) ................ 775
5. Derecho a la privacidad y protección de datos (Art. 22 CDPD) . . 776
6. Derecho a la participación en la vida pública y política (Art. 29 CDPD) ............................................... 777
7. Derecho a la libertad de expresión y acceso a la información (Art. 21 CDPD) ............................................ 777
8. Derecho a la autonomía y toma de decisiones (Art. 12 CDPD) . . 778
V. Desafíos del uso de la Inteligencia Artificial en relación con las personas con discapacidad ............................ 778
VI. Conclusión .............................................. 782
VII. Bibliografía .............................................. 784
CAPÍTULO XIX
RESPONSABILIDAD CIVIL Y GOBERNANZA ALGORÍTMICAANTE EL CARÁCTER DEFECTUOSO DE LA INTELIGENCIA ARTIFICIAL GENERATIVA: SINGULARIDAD TECNOLÓGICA Y PROTECCIÓN DE LOS COLECTIVOS VULNERABLES
MARÍA DEL MAR MÉNDEZ SERRANO. ................................ 787
I. Singularidad y producto inteligente defectuoso: nuevas consideraciones ............................................. 788
II. Singularidad tecnológica y redefinición del concepto de seguridad en los productos inteligentes ........................ 790
III. La diligencia de una «buena inteligencia artificial» como criterio para determinar el defecto en los productos inteligentes . . 801
IV. La ilusión de la conciencia de la inteligencia artificial y los riesgos jurídicos de la antropomorfización de las máquinas . . 809
V. Conclusiones ............................................ 813
VI. Bibliografía .............................................. 817
CAPÍTULO XX
CUANDO EL RIESGO APRENDE: RESPONSABILIDAD CIVIL ANTE PRODUCTOS INTELIGENTES Y COLECTIVOS VULNERABLES
ABIGAIL QUESADA PÁEZ .......................................... 821
I. Introducción ............................................. 822
II. Productos inteligentes y mutación del riesgo jurídicamente relevante ................................................ 824
III. La noción de producto defectuoso ante sistemas dotados de inteligencia .............................................. 826
IV. Vulnerabilidad y exposición al riesgo tecnológico en los productos inteligentes ....................................... 829
V. Causalidad, opacidad técnica y distribución de la carga de la prueba .................................................. 833
VI. Imputación del daño y sujetos responsables en los productos inteligentes .............................................. 835
1. La fragmentación de la cadena tecnológica como problema de imputación .............................................. 837
2. El control del sistema como criterio central de imputación ..... 838
3. Responsabilidad por diseño, desarrollo y actualización del sistema . . 841
4. Modelos de imputación y límites: entre la responsabilidad distribuida y la tutela efectiva del perjudicado .................... 844
VII. Hacia una reconstrucción del régimen de responsabilidad civil en productos inteligentes: gobernanza del riesgo y protección de consumidores vulnerables ...................... 846
1. La vulnerabilidad como criterio estructural del estándar de seguridad ................................................. 847
2. Opacidad técnica y reconfiguración del régimen probatorio .... 848
3. Imputación del riesgo y tutela efectiva del perjudicado: hacia un modelo funcional ....................................... 849
4. Hacia un modelo de responsabilidad orientado a la gobernanza del riesgo tecnológico .................................... 851
VIII. Conclusiones ............................................ 851
IX. Bibliografía .............................................. 853
CAPÍTULO XXI
LA RESPONSABILIDAD POR DAÑOS CAUSADOS POR PRODUCTOS DEFECTUOSOS. UNA APROXIMACIÓN AL ÁMBITO SUBJETIVO DE LA DIRECTIVA 2024/2853 DESDE LA PERSPECTIVA DEL CONSUMIDOR VULNERABLE
TANIA VÁZQUEZ MUIÑA ........................................... 857
I. Introducción ............................................. 857
II. El consumidor de racionalidad limitada ................... 859
III. El consumidor vulnerable tras la reforma introducida por la Ley 4/2022, de 25 de febrero ............................ 861
1. El concepto de consumidor vulnerable: aspectos generales ...... 861
2. El deber de información ................................. 864
3. El derecho de desistimiento ............................... 867
4. El control de transparencia ............................... 870
IV. La Directiva 2024/2853, de 23 de octubre, sobre responsabilidad por los daños causados por productos defectuosos . . 875
1. La necesidad de una nueva regulación ..................... 875
2. Ámbito subjetivo de aplicación ............................ 877
3. Breve mención al nuevo concepto de producto y su carácter defectuoso ............................................... 880
V. Consideraciones finales .................................. 882
VI. Bibliografía .............................................. 884
CAPÍTULO XXII
EL TEMOR AL MAL USO DE LOS DATOS PERSONALES COMO DAÑO INDEMNIZABLE EN EL MARCO DEL ARTÍCULO 82 RGPD, Y FORMA DE PROTEGER FRENTE A LA VULNERABILIDAD Y LA HIPERVULNERABILIDAD DIGITAL
JOSÉ ANTONIO CASTILLO PARRILLA ................................. 887
I. Personas vulnerables y vulnerabilidad digital: mal uso de datos y… ¿productos defectuosos? ........................... 888
II. Ámbito de aplicación (subjetivo, objetivo y territorial) del art. 82 RGPD ............................................ 890
1. Ámbito subjetivo: responsables y encargados del tratamiento .... 890
2. Ámbito objetivo: daños contractuales y/o extracontractuales .... 891
3. ¿Afán indemnizatorio o punitivo? ......................... 894
4. Ámbito territorial: la internacionalidad de los daños por infracciones del RGPD ....................................... 895
4.1. Criterio del establecimiento del responsable o encargado del tratamiento ................................... 896
4.2. Criterio de la selección de los destinatarios ............ 896
III. Elementos de la responsabilidad en el art. 82 RGPD ....... 899
1. Existencia de un daño. Daños y perjuicios materiales e inmateriales ................................................... 899
2. Antijuridicidad I. El doble examen (daño e infracción) ........ 902
3. Antijuridiciad II. Los problemas de coordinación derivados de la posibilidad de ejercicio de acciones independientes ............ 903
4. Relación de causalidad (entre el daño y la infracción del RGPD) . . 906
5. Imputación basada en la culpa e imputación basada en el riesgo . . 908
IV. El temor, fundado e hipotético, al mal uso de datos per sonales .................................................... 910
1. Temores fundados, temores hipotéticos y riesgos generales de la vida . 910
2. ¿El miedo a la discriminación algorítmica debe considerarse un «temor fundado»? ...................................... 913
3. La vulnerabilidad (digital y no digital) como factor transversal de aumento de temores fundados .......................... 918
V. A modo de cierre (en falso): estrategias de respuesta para la mejor protección de personas frente a la vulnerabilidad digital . 920
CAPÍTULO XXIII
RESPONSABILIDAD CIVIL POR DAÑOS DERIVADOS DEL USO DE INTELIGENCIA ARTIFICIAL Y TECNOLOGÍAS DIGITALES DESDE UNA PERSPECTIVA HUMAN­CENTRED: ADAPTACIÓN DE LAS TIC A PERSONAS MAYORES Y COLECTIVOS VULNERABLES
PATRICIA VICEIRA ORTEGA ........................................ 925
I. Introducción ............................................. 926
II. Inteligencia artificial y responsabilidad civil: marco jurídico general .................................................. 927
1. Los fundamentos clásicos de la responsabilidad civil ante los desafíos de la IA ........................................... 927
2. La autonomía funcional como ruptura del paradigma de imputación .................................................. 929
3. La opacidad algorítmica como obstáculo estructural .......... 930
4. El sesgo algorítmico como factor autónomo de imputación de daños ................................................... 931
5. El modelo propuesto: arquitectura escalonada de imputación del daño algorítmico ....................................... 933
III. Riesgos derivados de productos inteligentes defectuosos ... 935
1. La clasificación por niveles de riesgo en el Reglamento de IA ... 935
2. El régimen de productos defectuosos aplicado a la IA: la Directiva (UE) 2024/2853 ....................................... 935
3. Los sujetos responsables en la cadena algorítmica ............ 936
4. El caso paradigmático de los vehículos autónomos ............ 938
IV. Tecnologías digitales y colectivos vulnerables .............. 939
1. El concepto jurídico de vulnerabilidad en el contexto digital . . . . 939
2. El marco normativo europeo de protección .................. 939
3. La protección en el ordenamiento jurídico español ............ 940
4. El vacío regulatorio específico para personas mayores ......... 941
5. Legitimación activa y acceso a la justicia de los colectivos vulnerables ................................................ 942
V. Adaptación human­centred de las tic a personas mayores .. 943
1. El enfoque human-centred en el diseño y despliegue de sistemas de IA ................................................... 943
2. El «Pacto de Estado: Protegiendo a la infancia y la adolescencia en el entorno digital» como modelo de referencia ............. 944
3. La educación digital como instrumento de protección ......... 945
4. La brecha digital como obstáculo a la tutela efectiva .......... 945
VI. Análisis jurisprudencial relevante ......................... 946
1. La jurisprudencia del Tribunal Supremo sobre responsabilidad objetiva por riesgo creado ................................ 946
2. Proyección de la jurisprudencia sobre la responsabilidad por IA y colectivos vulnerables .................................... 947
VII. Retos jurídicos y propuestas de mejora .................... 948
1. El diagnóstico: cuatro manifestaciones de insuficiencia del marco vigente ............................................... 948
2. Propuestas de reforma ................................... 949
2.1. En materia probatoria .............................. 949
2.2. En materia de daños indemnizables .................. 949
2.3. En materia de identificación de responsables y seguros obligatorios ...................................... 950
2.4. En materia de gobernanza y acceso a la justicia ........ 950
VIII. Conclusiones ............................................ 951
IX. Bibliografía .............................................. 952
PARTE IV
COMUNICACIONES
CAPÍTULO XXIV
VULNERABILIDAD DE LAS PERSONAS MAYORES Y PRODUCTOS INTELIGENTES DEFECTUOSOS EN EL CUIDADO DE LA SALUD: RESPUESTAS REGULATORIAS
MARINA MORLA GONZÁLEZ ........................................ 957
I. Introducción: envejecimiento poblacional y desafíos en el cuidado del paciente mayor ............................... 958
II. Tecnología e inteligencia artificial para transformar el cuidado de la persona mayor ................................... 960
1. Tecnología para el control de la adherencia terapéutica ....... 960
2. Tecnología para el refuerzo de la autonomía y alivio de las cargas familiares ............................................. 963
III. Estándares regulatorios de los productos médico­tecnológicos en función del riesgo. Implicaciones en el cuidado de la persona mayor ........................................... 965
1. El Reglamento (UE) 2017/745 sobre productos sanitarios y su incidencia en la regulación del software médico ............. 967
2. El Reglamento (UE) 2024/1686 de Inteligencia Artificial y su incidencia en la regulación del software médico ............. 968
3. La nueva Directiva (UE) 2024/2853: innovación tecnológica, IA como producto y nuevo concepto de defecto ................ 972
IV. Conclusiones ............................................ 974
V. Bibliografía .............................................. 975
CAPÍTULO XXV
EL DEBER DE SEGURIDAD DE LOS FABRICANTES DE IA: RESPONSABILIDAD CIVIL FRENTE A PERSONAS CONSUMIDORAS VULNERABLES
AHLAM BOURABAA MOHAMED ..................................... 981
I. Introducción ............................................. 981
II. Marco normativo europeo y español ....................... 982
1. Directiva (UE) 2024/2853 sobre responsabilidad por productos defectuosos ............................................ 982
2. Reglamento de Inteligencia Artificial de la UE y obligaciones de seguridad ............................................. 983
3. Transposición al ordenamiento español: TRLGDCU y el artículo 3 sobre consumidores vulnerables .......................... 985
III. El defecto en los productos inteligentes ................... 986
1. Defecto de fabricación, de diseño y de información en clave clásica ................................................... 986
2. Particularidades en sistemas de IA: opacidad algorítmica, sesgos y fallos de supervisión ................................... 988
3. El riesgo previsible y el criterio de seguridad legítimamente esperada ................................................. 990
IV. Régimen de responsabilidad civil aplicable ................ 991
1. Responsabilidad objetiva del fabricante en la Directiva 2024/2853 ............................................ 992
2. Posible concurrencia de responsabilidad contractual y extracontractual ............................................... 993
3. Responsabilidad solidaria en cadenas de suministro digitales (fabricante, proveedor de software, distribuidor) ............. 995
V. Análisis de casos recientes de IA y vulnerabilidad .......... 996
1. Raine v. OpenAI (2025): ChatGPT y suicidio adolescente ...... 996
2. Setzer v. Character.ai: interacción afectiva con chatbot ........ 997
VI. Conclusiones ............................................ 997
VII. Bibliografía .............................................. 999
CAPÍTULO XXVI
EL DERECHO PENAL CLÁSICO ENTRE LAS CUERDAS: DAÑOS CAUSADOS POR VEHÍCULOS AUTÓNOMOS
MERCEDES GALERA RUIZ ......................................... 1003
I. Introducción ............................................. 1003
II. Las implicaciones del vehículo autónomo, clasificación y regulación nacional y europea .............................. 1006
1. La regulación europea del vehículo autónomo ............... 1006
2. La regulación nacional del vehículo de conducción autónoma .. 1008
III. Los riesgos de los sistemas de inteligencia artificial: una nueva preocupación de la era digital ........................... 1012
1. Reduciendo a la práctica los riesgos de los sistemas con IA integrada ................................................ 1013
2. Adversidades ante la delimitación de la responsabilidad penal . . 1016
IV. Seccionando la problemática: la autonomía y la teoría de la imputación objetiva ...................................... 1017
1. La «autonomía» dentro de los vehículos automatizados: el elemento subjetivo del tipo .................................. 1017
2. Problemas de aplicación de la teoría de la imputación objetiva a
la responsabilidad penal de los vehículos autónomos .......... 1018
V. Conclusiones ............................................ 1022
VI. Bibliografía .............................................. 1023
CAPÍTULO XXVII
RETOS EN MATERIA DE DERECHO DE DAÑOS Y RESPONSABILIDAD CIVIL SUBJETIVA POR DAÑOS CAUSADOS POR LA IA A COLECTIVOS VULNERABLES
VÍCTOR MACHADO CARVAJAL ...................................... 1027
I. Introducción ............................................. 1027
II. IA y colectivos vulnerables ................................ 1029
III. La responsabilidad civil de la IA: una cuestión preocupante . . 1031
IV. Hitos en la regulación de la responsabilidad civil de la IA .. 1034
1. Antecedentes no normativos .............................. 1035
2. Marco jurídico normativo ................................ 1038
V. Algún apunte a la responsabilidad civil de la IA contenida en la DRPD ................................................. 1041
VI. IA y daños por responsabilidad civil subjetiva .............. 1043
1. Una apuesta por la implementación de una regulación civil armonizada ........................................... 1045
2. La PDRCIA ........................................... 1046
2.1. El futuro de la PDRCIA ............................ 1049
VII. Conclusiones ............................................ 1051
VIII. Bibliografía .............................................. 1053
CAPÍTULO XXVIII
LA IMPORTANCIA DEL CONCEPTO DE «VULNERABILIDAD» DEL CONSUMIDOR A LA LUZ DE LA NUEVA DIRECTIVA 2024/2853
BLANCA APARICIO ARAQUE ........................................ 1057
I. Introducción ............................................. 1057
II. Desarrollo ............................................... 1065
1. El principal riesgo aparente derivado del uso de sistema de inteligencia artificial por el consumidor vulnerable: los sesgos ....... 1065
1.1. Ejemplos de sesgos ................................ 1066
2. La accesibilidad de los sistemas de inteligencia artificial, ¿realidad o ficción? .......................................... 1069
3. Principales modificaciones de la Directiva 2024/2853 en materia de productos defectuosos .............................. 1070
4. La importancia de las nuevas circunstancias de defectuosidad del producto a la luz de la vulnerabilidad del consumidor ......... 1075
III. Conclusiones ............................................ 1077
IV. Bibliografía .............................................. 1077
CAPÍTULO XXIX
EL ORDENAMIENTO JURÍDICO EUROPEO Y NACIONAL ANTE EL DISEÑO POR DEFECTO DE HERRAMIENTAS DE SOFTWARE EN LA CONTRATACIÓN DE PERSONAS VULNERABLES
PEDRO ZURITA HERRERA .......................................... 1081
I. Introducción ............................................. 1082
II. La vulnerabilidad de las personas en los mercados digitales 1082
III. El diseño por defecto de herramientas software en los mercados digitales ........................................... 1086
IV. El ordenamiento jurídico en la contratación de personas vulnerables en los mercados digitales ...................... 1086
1. Exigencias normativas en el diseño de contratación en línea ... 1086
1.1. Los deberes precontractuales de información .......... 1087
1.2. Accesibilidad y legibilidad de las condiciones generales de contratación ................................... 1088
1.3. El diseño del botón del consentimiento . . . . . . . . . . . . . . . 1090
2. Límites normativos para el diseño de las interfaces ........... 1091
2.1. Los patrones oscuros .............................. 1092
2.2. Recursos normativos frente a los patrones oscuros ..... 1093
2.2.1. En el Código Civil .......................... 1094
2.2.2. En el Reglamento General de Protección de Datos
y Ley Orgánica de Protección de datos ......... 1094
2.2.3. En el Texto Refundido de Defensa de los Consumidores y Usuarios ......................... 1095
2.2.4. En la Ley de Competencia Desleal ............. 1096
2.2.5. En el Reglamento de Servicios Digitales ........ 1097
2.2.6. En el Reglamento de Mercados Digitales ....... 1098
2.2.7. En el Reglamento de Datos ................... 1099
2.2.8. En el Reglamento de Inteligencia Artificial ...... 1099
V. Conclusiones ............................................ 1101
VI. Bibliografía .............................................. 1101
CAPÍTULO XXX
HIPERVULNERABILIDAD DE LA PERSONA MAYOR EN CASO DE DAÑOS Y AMENAZA DE DAÑOS POR PRODUCTOS INTELIGENTES DEFECTUOSOS
SILVANA ALEJANDRA CASTAGNO ................................... 1107
I. Introducción ............................................. 1107
II. Desarrollo ............................................... 1111
1. La persona mayor como consumidora de productos online. Responsabilidad de las plataformas por daños derivados de la contratación online .......................................... 1111
2. La persona mayor como paciente y consumidor de productos inteligentes. Daños producidos por productos defectuosos. Riesgos de desarrollo ............................................. 1117
III. Función preventiva del Daño. Recepción en las normativas analizadas y comparadas ................................. 1123
IV. Conclusiones ............................................ 1126
V. Bibliografía .............................................. 1128
CAPÍTULO XXXI
EL RETO DE INTEGRAR LAS MEDIDAS DE APOYO A LA DISCAPACIDAD EN LA EUROPEAN UNION DIGITAL IDENTITY WALLET
GEMA TOMÁS MARTÍNEZ ......................................... 1135
I. Introducción ............................................. 1135
II. Marco europeo de identidad digital y eIDAS 2 ............. 1136
III. EUDI Wallet: utilidades ................................... 1136
IV. Discapacidad y Década Digital: accesibilidad de bienes, servicios y entornos digitales ................................ 1136
V. La discapacidad en la EUDI Wallet: garantías y atributos ... 1137
1. Igualdad de acceso (art. 5 eIDAS 2) ....................... 1137
2. Comprensibilidad y lenguaje claro (art. 15 eIDAS 2) ......... 1137
3. Atributos: representación y mandatos (Anexo VI) ............ 1137
4. Medidas de apoyo no representativas y su incorporación ....... 1137
5. Verificación y autenticidad: fuentes auténticas (arts. 45 y 45 septies) ............................................... 1138
VI. Estado de implementación de la EUDI Wallet (UE y España)
y pilotos hacia 2026 ..................................... 1138
1. Unión Europea: normativa y pilotos a gran escala ............ 1138
2. España: pilotos y hoja de ruta ............................. 1139
VII. Incidencia de la EUDI Wallet respecto a las personas con discapacidad ............................................. 1140
1. Las organizaciones europeas en acción a favor de las personas con discapacidad ....................................... 1140
2. La necesaria colaboración de los operadores notariales y registrales ................................................... 1142
2.1. La denominada «cartera notarial» .................... 1143
2.2. Desarrollo registral y EUDI Wallet: funciones y hoja de ruta (2025-2026) .................................. 1143
VIII. Conclusiones ............................................ 1144
IX. Bibliografía .............................................. 1145
CAPÍTULO XXXII
DIÁLOGO ENTRE LA INDUSTRIA DE PRODUCTOS INTELIGENTES Y LA POBLACIÓN VULNERABLE A LA LUZ DE LA DIRECTIVA (UE) 2024/2853 (USAR UN PRODUCTO DEFECTUOSO ES USAR UN DEFECTO)
JOSÉ MARÍA ZONTA ARIAS ......................................... 1149
I. Introducción ............................................. 1149
II. El primer vulnerable ..................................... 1150
III. Las poblaciones con vulnerabilidades ..................... 1152
IV. Los productos inteligentes dirigidos a las poblaciones vulnerables ................................................... 1153
V. Antes de los daños, están los riesgos ...................... 1155
VI. Responsabilidad por daños de los dispositivos inteligentes y su reparación ............................................ 1156
VII. Los productos inteligentes y la directiva (UE) 2024/2853 . . 1158
VIII. Conclusiones y recomendaciones: una relación tan necesaria como difícil .............................................. 1160
IX. Bibliografía .............................................. 1163
CAPÍTULO XXXIII
RESPONSABILIDAD POR DAÑOS EN CASOS DE VEHÍCULOS AUTÓNOMOS
FRANCISCO JOSÉ ÁLVAREZ GÓMEZ .................................. 1169
I. Introducción ............................................. 1169
II. Cuestiones generales y marco normativo .................. 1170
III. Régimen de responsabilidad por productos defectuosos en los vehículos autónomos .................................. 1172
IV. Vehículos automatizados y autónomos en el contrato de transporte terrestre ...................................... 1175
V. Determinación de la causalidad y las pruebas ante la inteligencia artificial ........................................... 1177
VI. Soluciones compensatorias y mecanismos de cobertura de datos .................................................... 1179
VII. Conclusiones ............................................ 1181
VIII. Bibliografía .............................................. 1182
CAPÍTULO XXXIV
AVANCES NEUROCIENTÍFICOS Y SU IMPACTO EN EL DERECHO DE DAÑOS
ANA PATRICIA GONZÁLEZ DA SILVA ................................. 1183
I. Introdución .............................................. 1184
II. La dimensión cuántica y su impacto en el salto normativo jurídico .................................................. 1184
III. Del homo sapiens al homo connectus pasando por el homo digitalis ................................................. 1188
IV. Tendencia en el enfoque y el modelado de las neurotecnologías: directa frente a indirecta ............................... 1195
V. Conclusiones ............................................ 1198
VI. Bibliografía .............................................. 1199
PARTE V
CONCLUSIONES .............................................. 1205
EPÍLOGO
EL PRÓXIMO DESAFÍO DEL DERECHO PRIVADO: UNA RESPUESTA A LAS FUTURAS SOCIEDADES HÍBRIDAS HUMANO­IA
TERESA RODRÍGUEZ DE LAS HERAS BALLELL ......................... 1259
I. De la estrategia de regulación a la «revolución de la simplificación regulatoria»: el modelo europeo ante la IA .......... 1259
II. El Derecho Privado como clave de la estrategia de adopción de la IA: áreas que requieren atención .................... 1264
1. La IA Generativa y el futuro de la creatividad ............... 1265
2. La IA Agéntica y de las decisiones automatizadas: ¿contratos intuitu hominis? ......................................... 1266
3. Un régimen de responsabilidad adecuado y suficiente para la IA 1270
III. La transición de una sociedad digital impulsada por la IA a una sociedad híbrida Humano­IA ......................... 1271
IV. Normas y ficciones jurídicas para una sociedad híbrida: tres enfoques de política legislativa ............................ 1273
V. La próxima frontera del Derecho privado .................. 1274
VI. Conclusiones ............................................ 1276