Hacia una transición digital centrada en la persona: estudios jurídicos desde la perspectiva de la Unión Europea

BLOQUE I
CAPÍTULO 1
VULNERABILIDAD DE LOS CONSUMIDORES Y USUARIOS
EN EL ENTORNO DIGITAL
JOSÉ JUAN CASTELLÓ PASTOR............................................................... 27
I. Planteamiento inicial .................................................................... 27
1. Repensar el marco jurídico digital para hacer frente a los daños actuales a los usuarios digitales........................................ 27
2. Usuarios digitales: ¿una tutela jurisdiccional reforzada? ...... 30
II. Corpus jurídico digital: unde venimus et quo imus .................. 32
III. La cuadratura del círculo en materia digital............................. 41
1. Instrumentalización de la atención y manipulación como recursos económicos de las plataformas digitales....................... 42
2. Medidas diseñadas para mitigar las técnicas de manipulación
y adicción de las plataformas digitales.................................... 45
IV. Equidad digital: paternalismo del regulador vs. soberanía
del consumidor............................................................................... 52
V. Reflexión final................................................................................. 58
Bibliografía............................................................................................... 59
CAPÍTULO 2
HACIA UN ENTORNO DIGITAL SEGURO PARA LA
INFANCIA: EL MARCO EUROPEO Y ESTATAL DE
PROTECCIÓN DE LOS MENORES
ROSA LAPIEDRA ALCAMÍ ....................................................................... 63
I. Introducción.................................................................................... 63
II. La especial vulnerabilidad de los menores y la necesidad de
protección en el entorno digital.................................................. 65
1. Principales riesgos para los menores en la red ........................ 66
III. Marco normativo europeo y estatal en materia de protección
de menores en la red ..................................................................... 69
1. Las medidas de protección de los menores en el entorno digital previstas en el Reglamento (UE) 2022/2065, de servicios digitales.... 71
a) Prohibición de dirigir publicidad a menores basada
en perfiles ....................................................................... 76
2. Medidas de protección previstas en el Reglamento (UE)
2024/1689, de inteligencia artificial........................................ 83
3. Medidas de protección previstas en el Reglamento (UE)
2023/2854, de datos................................................................. 83
4. Medidas de protección previstas en el Proyecto de Ley Orgánica para la protección de menores en entornos digitales........ 84
IV. Nuevos mecanismos de verificación de la edad para el acceso de los menores a los servicios digitales: el reglamento
(UE) 2024/1183, de identidad digital........................................... 90
V. Conclusiones................................................................................... 94
Bibliografía............................................................................................... 95
CAPÍTULO 3
EVOLUCIÓN DE LA REGULACIÓN DE LOS “DARK
PATTERNS” EN LA UNIÓN EUROPEA
JOSÉ CORBERÁ MARTÍNEZ ..................................................................... 99
I. Introducción.................................................................................... 100
1. Impacto socioeconómico de las nuevas tecnologías ................. 100
2. Importancia de los interfaces de usuario en línea como “front
office” del comercio digital....................................................... 101
3. Objeto: aproximación al concepto y a la regulación europea
sobre interfaces engañosas....................................................... 103
II. Concepto y tipos de interfaces engañosos ................................ 104
1. Precisiones terminológicas ...................................................... 104
2. Concepto de “Dark Patterns” ................................................. 104
3. Breve referencia a los tipos de interfaces engañosas y patrones
oscuros..................................................................................... 106
III. Regulación vigente ........................................................................ 107
1. Reconocimiento de los “patrones oscuros” en interfaces de
usuarios en la Comunicación sobre la Nueva Agenda del Consumidor de 2020 ...................................................................... 110
2. Reglamento de Servicios Digitales de 2022 como primera regulación expresa de las interfaces engañosas en la Unión Europea ........................................................................................ 111
2.1. Ámbito de aplicación.............................................. 114
2.2. Articulación con la Directiva de Prácticas Comerciales Desleales con Consumidores y del Reglamento General de Protección de Datos .................. 116
3. Directiva sobre las Prácticas Comerciales Desleales de 2005.. 116
4. Reglamento General de Protección de Datos de 2016................ 118
5. Reglamento de Mercados Digitales de 2022............................ 121
6. Reglamento de Datos de 2023 ................................................. 122
7. Directiva de Servicios Financieros a Distancia de 2023............ 124
8. Reglamento de Inteligencia Artificial de 2024 ........................ 125
9. Necesidad de mayor cohesión de la normativa reguladora de
las “Dark Patterns”................................................................. 125
IV. Regulación futura sobre “equidad digital” .............................. 126
V. A modo de conclusión................................................................... 129
Bibliografía............................................................................................... 130
CAPÍTULO 4
DUDAS SOBRE EL FUNCIONAMIENTO DE LOS ÓRGANOS
DE SOLUCIÓN EXTRAJUDICIAL CERTIFICADOS EN EL
MARCO DEL REGLAMENTO DE SERVICIOS DIGITALES
ROSA PLA ALMENDROS .......................................................................... 133
I. Planteamiento inicial .................................................................... 133
II. A modo de contexto: aspectos regulados y no regulados por
el art. 21 RSD .................................................................................. 136
III. Órganos certificados ...................................................................... 142
IV. Concreción de algunos extremos por los órganos certificados 145
1. Ámbito de actuación................................................................ 146
1.1. ADROIT.................................................................... 146
1.2. User Rights............................................................... 148
1.3. Tanács........................................................................ 148
1.4. Appeals Centre ........................................................ 149
1.5. RTR............................................................................ 150
1.6. ADR Center.............................................................. 150
2. Lengua del procedimiento........................................................ 151
3. Plazo para interponer la reclamación...................................... 152
4. Tercero encargado de resolver la disputa ................................. 155
5. Costas y honorarios................................................................. 156
V. Problemas detectados y soluciones propuestas ....................... 158
Bibliografía............................................................................................... 162
CAPÍTULO 5
LA ADAPTACIÓN A LA ERA DIGITAL DEL MARCO
EUROPEO DE RESOLUCIÓN ALTERNATIVA DE LITIGIOS
“RAL” EN MATERIA DE CONSUMO
ENRIQUE FERNÁNDEZ MASIÁ............................................................... 165
I. El nuevo paquete de reforma propuesto en octubre de 2023
por la Comisión Europea.............................................................. 166
II. Ampliación del ámbito de aplicación de la directiva “RAL” del
2013: ¿todos los litigios que afecten a un derecho del consumidor
deben poder ser resueltos mediante un procedimiento “RAL”? 176
III. Un mejor acceso y comprensión de los procedimientos
“RAL” por parte de los consumidores y comerciantes........... 181
1. Potenciación de las funciones de asistencia de la Red de Centros Europeos del Consumidor ................................................ 181
2. Supresión de la plataforma de Resolución de Litigios en Línea
“RLL” europea ........................................................................ 183
IV. Una mayor implicación en el sistema “RAL” de los empresarios y comerciantes y una racionalización de sus costes .... 186
V. Preocupación por los consumidores vulnerables en los mercados digitales ................................................................................ 188
VI. Mayor simplificación y transparencia de los procedimientos
“RAL”............................................................................................... 190
VII. Menores obligaciones para las entidades “RAL”.................... 193
VIII.Incentivar a los mercados en línea y a las asociaciones comerciales de la Unión Europea para que sus mecanismos de
resolución de litigios con los consumidores se ajusten a los
criterios de calidad de la directiva “RAL” del 2013................. 194
Bibliografía............................................................................................... 196
BLOQUE II
CAPÍTULO 6
SISTEMAS DE INTELIGENCIA ARTIFICIAL Y
RESPONSABILIDAD POR PRODUCTOS DEFECTUOSOS EN
SUPUESTOS TRANSFRONTERIZOS: NOVEDADES EN SU
REGULACIÓN EUROPEA Y RÉGIMEN CONFLICTUAL
GUILLERMO PALAO MORENO............................................................... 203
I. Introducción.................................................................................... 204
II. La regulación europea de la responsabilidad civil ocasionada por sistemas de Inteligencia Artificial: estado de la cuestión e impacto en la modernización del régimen de responsabilidad por productos defectuosos ......................................... 208
1. Los esfuerzos del legislador europeo por establecer un marco
regulatorio en relación con la responsabilidad civil derivada
de sistemas de Inteligencia Artificial....................................... 211
2. La Directiva (UE) 2024/2853 sobre responsabilidad por los
daños causados por productos defectuosos y su impacto en el
ámbito de la Inteligencia Artificial.......................................... 215
III. La responsabilidad por productos transfronteriza por los
sistemas de Inteligencia Artificial: aspectos de ley aplicable 225
1. Cuestiones introductorias........................................................ 225
2. La problemática que suscita la aplicación del Convenio de La
Haya de 1973........................................................................... 230
3. Las posibilidades que ofrece el Reglamento Roma II ............... 234
IV. Valoración........................................................................................ 244
CAPÍTULO 7
INTELIGENCIA ARTIFICIAL Y TUTELA JURÍDICA DE
DERECHOS DIGITALES EN LA UNIÓN EUROPEA
ISABEL REIG FABADO .............................................................................. 247
I. Introducción.................................................................................... 247
1. La Unión Europea en su afán regulador del entorno digital... 247
2. Los modelos generales de IA.................................................... 252
II. La regulación de los riesgos sistémicos en la UE..................... 253
1. Riesgos sistémicos en el Reglamento de IA............................. 253
1.1. Introducción............................................................. 253
1.2. La clasificación de los riesgos sistémicos en el
Reglamento de IA.................................................... 254
1.3. Las obligaciones adicionales para los riesgos sistémicos en el Reglamento de IA............................ 256
2. Los riesgos sistémicos en la DSA............................................ 258
2.1. Categorías de riesgos sistémicos en la DSA........ 258
2.2. Evaluación y mitigación de riesgos sistémicos
en la DSA.................................................................. 260
A. La evaluación de riesgos sistémicos en la DSA . 260
B. Las medidas de mitigación de riesgos sistémicos
de la DSA........................................................... 265
2.3. Los procedimientos formales iniciados por la
Comisión contra las grandes plataformas por
incumplimiento de las obligaciones de la DSA.. 267
3. La aplicación conjunta de ambos Reglamentos....................... 272
III. Conclusiones................................................................................... 273
Bibliografía............................................................................................... 276
CAPÍTULO 8
INTELIGENCIA ARTIFICIAL Y RIESGOS SISTÉMICOS EN
LA RED: LA LUCHA CONTRA LA DESINFORMACIÓN EN LA
UNIÓN EUROPEA
CLARA ISABEL CORDERO ÁLVAREZ...................................................... 281
I. Planteamiento................................................................................. 282
II. Marco jurídico europeo frente a los riesgos del uso de la IA 286
1. El Reglamento de IA: sistemas de IA para la desinformación
¿sistemas prohibidos, alto riesgo o riesgo moderado? ............. 287
2. Directivas sobre responsabilidad en materia de IA ................. 299
2.1. La Directiva de 2024 sobre productos defectuosos y su posible aplicación al caso ........................ 300
2.2. Propuesta de Directiva de adaptación de las
normas de responsabilidad extracontractual a la
IA: oportunidad perdida........................................ 308
3. El uso de la IA para la creación de contenidos en la DSA....... 316
III. Mecanismos de lucha contra la desinformación dentro de la
UE en el uso de los servicios digitales....................................... 320
1. Obligaciones sustantivas para los grandes prestadores de la
DSA y el recurso a la IA para su cumplimiento...................... 322
1.1. La desinformación como riesgo sistémico para
grandes plataformas y motores de búsqueda..... 326
1.2. Moderación (proactiva) contra contenidos no
deseados: en particular los mecanismos automatizados ................................................................. 330
1.3. Curación (recomendación) de contenidos automatizada: peligros en presencia y oportunidades ............................................................................. 335
2. La Comisión europea en la lucha contra la desinformación en
las redes ................................................................................... 339
2.1. Investigaciones en curso frente a muy grandes
plataformas para mitigar riesgos en procesos
electorales y discursos cívicos: los casos de TikTok, X y Meta .............................................................. 340
2.2. Normas de autorregulación de las plataforma
para hacer frente a la desinformación.................. 353
IV. Conclusiones................................................................................... 361
Bibliografía............................................................................................... 365
CAPÍTULO 9
LA GOBERNANZA INTERNACIONAL DE LA
INTELIGENCIA ARTIFICIAL EN NACIONES UNIDAS
DESDE UNA PERSPECTIVA DE DERECHOS HUMANOS
ANA GASCÓN MARCÉN.......................................................................... 371
I. Introducción.................................................................................... 371
II. Iniciativas de gobernanza ............................................................ 375
1. Gobernanza interna................................................................. 375
2. Gobernanza externa................................................................. 376
2.1. Informe Gobernanza de la IA en beneficio de la
humanidad............................................................... 376
2.2. Pacto Digital Mundial ............................................ 381
2.3. Avances en 2025....................................................... 382
III. Asamblea General de Naciones Unidas.................................... 384
IV. Consejo de Derechos Humanos .................................................. 391
1. Marco empresa y derechos humanos....................................... 392
2. Informes de expertos en Derechos Humanos........................... 394
V. UNESCO.......................................................................................... 397
VI. Unión Internacional de Telecomunicaciones ........................... 401
VII. Conclusiones................................................................................... 402
Bibliografía............................................................................................... 403
BLOQUE III
CAPÍTULO 10
LA PROPIEDAD DIGITAL Y SU SUCESIÓN MORTIS
CAUSA: ¿NUEVOS ESCENARIOS PARA EL DERECHO
INTERNACIONAL PRIVADO EUROPEO?
ISABEL ANTÓN JUÁREZ........................................................................... 409
I. Aproximación inicial..................................................................... 409
II. Hacia un concepto de “bien digital” .......................................... 411
III. El impacto de la vida digital en la sucesión mortis causa:
¿toda sucesión es internacional?................................................. 413
1. Aproximación inicial............................................................... 413
2. La calificación de la sucesión mortis causa como internacional
por la existencia de bienes digitales......................................... 414
3. Las normas que regulan la sucesión mortis causa transfronteriza de bienes digitales............................................................. 416
IV. La categorización de los bienes digitales .................................. 418
V. La determinación de la competencia judicial internacional y
el Derecho aplicable de la sucesión mortis causa de bienes
digitales ........................................................................................... 420
1. El punto de partida.................................................................. 420
2. Los diferentes escenarios.......................................................... 422
3. La determinación del Derecho aplicable bienes personales y
mixtos...................................................................................... 424
4. Los litigios derivados de la sucesión mortis causa de bienes
digitales y la determinación del tribunal competente.............. 427
VI. La sucesión de bienes digitales creados por el causante........ 433
VII. Reflexiones finales ......................................................................... 434
Bibliografía............................................................................................... 436
CAPÍTULO 11
LOS DATOS COMO BIENES DIGITALES TRANSNACIONALES
ANTONIO MERCHÁN MURILLO............................................................ 439
I. Introducción.................................................................................... 439
II. Principios rectores en la contratación digital automatizada.. 440
III. Los datos como infraestructura jurídica: del flujo informacional al activo digital................................................................... 442
IV. Titularidad, control y apropiabilidad de los datos.................. 447
V. El dato en movimiento: conflictos de leyes y circulación
transnacional................................................................................... 451
VI. Automatización y responsabilidad: atribución de actos jurídicos en entornos algorítmicos.................................................... 456
VII. Conclusiones................................................................................... 459
Bibliografía............................................................................................... 460
CAPÍTULO 12
EL REFUERZO DE LA COOPERACIÓN DIRECTA ENTRE
LOS ESTADOS Y LOS PRESTADORES DE SERVICIOS PARA
LA OBTENCIÓN DE PRUEBAS ELECTRÓNICAS EN EL
SEGUNDO PROTOCOLO ADICIONAL AL CONVENIO DE
BUDAPEST
PATRICIA LLOPIS NADAL........................................................................ 463
I. Introducción.................................................................................... 465
II. La solicitud de datos de sus abonados a los proveedores de
servicios: una medida directa de alcance nacional prevista
en el art. 18 del Convenio............................................................. 468
III. La cooperación directa reforzada con los prestadores de servicios en el Segundo Protocolo adicional al Convenio de Budapest ............................................................................................... 471
1. Dos nuevos procedimientos para reforzar la cooperación directa con entidades y proveedores de servicios que se encuentran en el territorio de otros Estados parte.............................. 471
2. La necesidad de respetar el principio de especialidad y el principio de proporcionalidad en los procedimientos de cooperación directa .............................................................................. 473
3. La autoridad competente para iniciar los procedimientos de
cooperación directa: un concepto amplio que podría limitarse
por los Estados parte................................................................ 474
4. El idioma de las solicitudes y de los requerimientos sujeto a lo que
haya decidido la entidad o el proveedor de servicios requerido..... 475
5. La necesaria protección de los derechos humanos, las libertades y los datos de carácter personal en la cooperación directa. 476
5.1. La protección de los derechos humanos y de las
libertades: la exigencia de respetar los niveles
mínimos asumidos en virtud de tratados internacionales ................................................................. 476
5.2. La protección de los datos de carácter personal:
una exigencia regulada con detalle en el art. 14
del Segundo Protocolo en defecto de otro acuerdo aplicable .............................................................. 478
IV. La posibilidad de solicitar información sobre los registrantes de nombres de dominio a las entidades ubicadas en el
territorio de otro Estado parte ..................................................... 479
1. Facultar a sus autoridades y permitir a las entidades: la doble
obligación asumida por los Estados parte en virtud del art. 6
del Segundo Protocolo ............................................................. 479
2. Las entidades que prestan servicios de registro de nombres
de dominio como receptoras de la solicitud y su condición de
prestadores de servicios ........................................................... 481
3. Los datos que pueden solicitarse a las entidades que prestan
servicios de registro de nombres de dominio: relevancia y requisitos .................................................................................... 482
4. Los requisitos que ha de cumplir la solicitud y el necesario respeto de las garantías procesales en la entrega de la información 483
V. La posibilidad de solicitar información sobre los abonados
a los proveedores de servicios que se encuentran en el territorio de otro Estado parte ............................................................. 485
1. Las obligaciones asumidas en virtud del art. 7 del Segundo
Protocolo y la posibilidad de reservarse el derecho a no aplicarlo de manera total o de manera parcial............................... 485
1.1. La doble obligación que impone del art. 7 del
Segundo Protocolo y la posibilidad de restringir
las autoridades competentes de los otros Estados parte ................................................................... 485
1.2. La posibilidad de realizar reservas de distinta
extensión para la no aplicación del art. 7 por un
Estado parte del Segundo Protocolo .................... 486
2. Los proveedores de servicios definidos en el Convenio de Budapest como receptores del requerimiento ............................... 488
3. La delimitación de los datos relativos a los abonados que pueden solicitarse a los proveedores de servicios........................... 489
4. El contenido mínimo del requerimiento y la posibilidad de
acompañarlo de información complementaria......................... 491
4.1. El contenido mínimo del requerimiento por el
que se solicita a los proveedores de servicios información relativa a sus abonados ....................... 492
4.2. La información complementaria al requerimiento y la necesidad de mayor claridad sobre cómo,
quién, cuándo y qué habrá de aportarse ............. 493
5. La posible intervención del Estado parte en cuyo territorio se
encuentra el proveedor de servicios con carácter previo a facilitar la información.................................................................. 495
5.1. La posibilidad de que el Estado parte exija notificación simultánea del requerimiento con carácter general o en determinados supuestos....... 495
5.2. La posibilidad de que el Estado parte exija la
consulta previa del proveedor de servicios en
determinados supuestos ........................................ 497
5.3. Las distintas actuaciones de la autoridad del Estado parte notificada simultáneamente o consultada por el proveedor de servicios ....................... 498
6. La negativa o inactividad del proveedor de servicios y el recurso a la cooperación internacional o a la asistencia mutua como
alternativa ............................................................................... 500
6.1. Las posibles conductas del proveedor de servicios requerido y la posibilidad de exigir que motive toda negativa e inactividad............................ 500
6.2. Las alternativas de la autoridad competente para
obtener la información ante la negativa o inactividad del proveedor de servicios.................................. 501
VI. Conclusión ...................................................................................... 502
Bibliografía y otras fuentes consultadas ............................................ 504
1. Bibliografía .............................................................................. 504
2. Otras fuentes consultadas....................................................... 506