Derecho de datos, inteligencia artificial e internet en el sector público y privado

CAPÍTULO 1
TITULARIDAD DE LOS DATOS Y TITULARIDAD DE LOS SISTEMAS IA EN LOS SECTORES PÚBLICO Y PRIVADO. Javier
Plaza Penadés ........................................................................... 23
1. INTRODUCCIÓN........................................................... 25
2. EL «ININTELIGIBLE» CONCEPTO DE «SISTEMA DE INTELIGENCIA ARTIFICIAL»............................................... 28
3. PROHIBICIONES PARA LOS SISTEMAS IA ..................... 32
4. SISTEMAS IA DE ALTO RIESGO Y ELIMINACIÓN DE SESGOS ............................................................................... 38
5. SISTEMAS IA DE RIESGO ESPECÍFICO QUE EXIGE
TRANSPARENCIA Y DE RIESGO MÍNIMO...................... 43
6. LOS «MODELOS» DE INTELIGENCIA ARTIFICIAL DE
USO GENERAL, INCLUIDOS LOS QUE ENTRAÑEN
«RIESGO SISTÉMICO».................................................... 44
7. AUTORÍA DE LOS SISTEMAS IA Y DE LAS OBRAS CREADAS POR IA.................................................................... 46
8. TITULARIDAD DE LOS SISTEMAS IA A TRAVÉS DE LA
PROTECCIÓN DEL SOFTWARE...................................... 52
8.1. Nacimiento de la protección y objeto de protección
del software por el Derecho de autor..................... 54
8.2. Titularidad y duración de los derechos sobre el software ...................................................................... 56
8.3. Derechos de explotación y límites sobre el software ...................................................................... 58
9. DEBER DE RESPETO DE LA NORMATIVA DE PROPIEDAD INTELECTUAL EN LOS RESULTADOS OFRECIDOS
POR EL SISTEMA IA........................................................ 61
10. SISTEMAS IA Y PROTECCIÓN DE BASES DE DATOS ...... 64
10.1. Bases de datos originales....................................... 66
10.2. Derecho sui generis sobre las bases de datos ......... 70
10.3. Derechos y obligaciones del usuario legítimo de
una base de datos no original ................................ 73
10.4. Doctrina del Tribunal Supremo sobre concepto de
bases de datos original y sui generis....................... 74
11. PROTECCIÓN DE DATOS PERSONALES. ASPECTOS GENERALES Y SU ADAPTACIÓN A LA IA............................ 82
12. IMPACTO QUE TIENE EL DERECHO DE PROTECCIÓN
DE DATOS EN LOS SISTEMAS IA.................................... 93
CONCLUSIONES .................................................................... 95
CAPÍTULO 2
EL REGLAMENTO IA DE LA UE. CUESTIONES DE ACTUALIDAD. José Manuel Muñoz vela................................................. 99
1. INTRODUCCIÓN........................................................... 101
2. CLAVES DEL REGLAMENTO IA DE LA UE...................... 105
2.1. Cuestiones generales ............................................. 105
2.2. Clasificación de los sistemas de IA......................... 114
2.3. Sujetos obligados: Operadores............................... 117
2.4. Principales requisitos y obligaciones...................... 118
2.5. Medidas de apoyo a la innovación ........................ 125
2.6. Gobernanza de la IA ............................................. 126
2.7. Normalización y estandarización .......................... 127
2.8. Régimen sancionador............................................ 128
2.9. Entrada en vigor y aplicación................................. 129
3. OTROS INSTRUMENTOS JURÍDICOS RELACIONADOS 130
4. CONTRATACIÓN PÚBLICA Y PRIVADA ......................... 133
5. REGULACIÓN CORPORATIVA Y SECTORIAL................. 136
CONCLUSIONES .................................................................... 136
BIBLIOGRAFÍA........................................................................ 138
CAPÍTULO 3
EL MODELO «PAY OR OKAY» DE COOKIES PUBLICITARIAS
Y EL LIBRE CONSENTIMIENTO PARA EL TRATAMIENTO DE
DATOS PERSONALES. david aviñó Belenguer ......................... 147
1. INTRODUCCIÓN........................................................... 149
2. PUBLICIDAD COMPORTAMENTAL Y PROTECCIÓN DE
DATOS............................................................................ 152
2.1. Publicidad comportamental y elaboración de perfiles ....................................................................... 152
2.2. Legislación aplicable a las cookies publicitarias .... 154
2.3. Obligaciones de los sujetos responsables............... 156
3. ¿PUEDEN DENEGARME EL ACCESO AL SERVICIO SI NO
CONSIENTO?........................................................................... 158
3.1. El origen del modelo: el caso Meta Platform contra
Bundeskartellamt...................................................... 158
3.2. ¿Qué dice al respecto la Agencia Española de Protección de Datos?.................................................. 160
4. REQUISITOS PARA UN CONSENTIMIENTO VÁLIDO SEGÚN EL DICTAMEN 08/2024 DEL COMITÉ EUROPEO
DE PROTECCIÓN DE DATOS ......................................... 162
4.1. Acerca del ámbito subjetivo .................................. 163
4.2. Consentimiento libre ............................................. 165
4.2.1. No existencia de condicionalidad para acceder al servicio ........................................ 165
4.2.2. Alternativa gratuita sin cookies de publicidad comportamental.................................. 167
4.2.3. No causar un perjuicio al usuario.............. 169
4.2.4. No causar un desequilibrio de poder entre
las partes ................................................... 170
4.2.5. Granularidad en la prestación del consentimiento....................................................... 171
4.3. Consentimiento específico, inequívoco e informado .................................................................... 172
4.4. Revocación y retirada del consentimiento y otros
principios .............................................................. 174
5. ¿DATOS PERSONALES A CAMBIO DE BIENES O SERVICIOS DIGITALES? ........................................................... 177
5.1. Ámbito de aplicación de la Directiva (UE)
2019/770............................................................... 177
5.2. Excepciones a la aplicación de la Directiva ........... 179
5.2.1. Los datos recabados son para la ejecución
de un contrato ........................................... 179
5.2.2. La utilización de cookies por parte del prestador del servicio....................................... 180
5.2.3. La exposición del consumidor a recibir publicidad ..................................................... 182
5.3. ¿Limitación excesiva del ámbito de aplicación de la
Directiva? .............................................................. 183
BIBLIOGRAFÍA........................................................................ 184
CAPÍTULO 4
MI IRIS A CAMBIO DE CRIPTOMONEDAS. UNA APROXIMACIÓN A LA MERCANTILIZACIÓN DE LOS DATOS BIOMÉTRICOS. Francisca raMón Fernández ............................................. 187
1. INTRODUCCIÓN........................................................... 189
2. EL IRIS: UN DATO BIOMÉTRICO ................................... 196
3. LA MERCANTILIZACIÓN DE LOS DATOS BIOMÉTRICOS
A LA LUZ DE LA REGULACIÓN ACTUAL ...................... 200
CONCLUSIONES .................................................................... 214
BIBLIOGRAFÍA........................................................................ 215
CAPÍTULO 5
LA DIGITALIZACIÓN DE LA MUERTE. RETOS ÉTICOS Y LEGALES. María elena coBas coBiella .......................................... 223
1. ESTADO DE LA CUESTIÓN ............................................ 225
2. LA MUERTE Y SUS IMPLICACIONES JURÍDICAS EN EL
ÁMBITO SUCESORIO..................................................... 227
3. HACIA LA DIGITALIZACIÓN DE LA MUERTE. RETOS
ÉTICOS Y LEGALES ......................................................... 230
4. INTELIGENCIA ARTIFICIAL Y SUCESIÓN MORTIS CAUSA 240
4.1. La cuestión de la sucesión mortis causa en época
de IA ..................................................................... 243
4.2. La planificación sucesoria y la IA........................... 250
4.3. Utilización de la IA en sede testamentaria. Conversaciones con el ChatGPT....................................... 251
CONCLUSIÓN........................................................................ 261
BIBLIOGRAFÍA........................................................................ 262
CAPÍTULO 6
LA PATRIA POTESTAD DIGITAL Y EL INTERÉS SUPERIOR
DEL MENOR, ¿UN CAMBIO DE ESTRATEGIA EN LA CAPACITACIÓN LEGAL DE LA INFANCIA Y LA ADOLESCENCIA?
Marina sancho lóPez................................................................ 267
1. CUESTIONES PRELIMINARES......................................... 269
2. EL PROYECTO DE LEY ORGÁNICA PARA LA PROTECCIÓN DE LAS PERSONAS MENORES DE EDAD EN
LOS ENTORNOS DIGITALES .......................................... 271
2.1. Principales novedades introducidas....................... 273
2.2. Problemas prácticos y jurídicos que se plantean.... 280
3. TRATAMIENTO JURÍDICO DE LA CAPACIDAD DE LA
INFANCIA Y LA ADOLESCENCIA ................................... 287
3.1. Breve recorrido por su evolución jurídica .............. 290
3.2. Los distintos estadios de capacitación en la minoría
de edad ................................................................. 295
3.3. La patria potestad digital........................................ 302
4. REFLEXIONES FINALES: CONTINUISMO VS. PUNTO DE
INFLEXIÓN..................................................................... 311
CONCLUSIONES .................................................................... 321
BIBLIOGRAFÍA........................................................................ 323
CAPÍTULO 7
PROTECCIÓN DE DATOS, PRUEBA ALGORÍTMICA Y DECISIÓN JUDICIAL AUTOMATIZADA: LÍMITES Y PERSPECTIVAS. Francisco raMón lara Payán ............................................ 327
1. INTRODUCCIÓN........................................................... 329
2. PROTECCIÓN DE DATOS, DECISIONES AUTOMATIZADAS: MARCO NORMATIVO Y LÍMITES .......................... 332
2.1. El derecho a no ser sometido a decisiones automatizadas (RGPD y LOPDGDD) ................................ 332
2.2. El Reglamento Europeo de IA (RIA) y su incidencia
en la Justicia .......................................................... 336
3. LA PRUEBA ALGORÍTMICA EN EL PROCESO JUDICIAL
ESPAÑOL........................................................................ 341
3.1. Concepto y desafíos de la «evidencia algorítmica» 341
3.2. Tratamiento jurisprudencial y doctrinal: primeras
aproximaciones..................................................... 346
4. LA DECISIÓN JUDICIAL AUTOMATIZADA: EXPERIENCIAS, LÍMITES Y PERSPECTIVAS...................................... 349
4.1. Proyecto IA4Justice: la IA como asistente en la redacción de resoluciones........................................ 349
4.2. Límites jurídico-constitucionales y crítica doctrinal
a la automatización judicial................................... 355
CONCLUSIONES .................................................................... 358
BIBLIOGRAFÍA........................................................................ 361
LEGISLACIÓN, JURISPRUDENCIA Y MATERIALES DE ESTUDIO 365
CAPÍTULO 8
ECONOMÍA DIGITAL VS. GARANTÍA DE DERECHOS: EL
NUEVO MARCO TRANSATLÁNTICO DE PRIVACIDAD DE
DATOS UNIÓN EUROPEA-EE.UU. alFonso ortega giMénez ... 369
PLANTEAMIENTO................................................................... 371
1. ANTECEDENTES EN LA REGULACIÓN DE LAS TRANSFERENCIAS INTERNACIONALES DE DATOS DE CARÁC-
TER PERSONAL DESDE LA UE A ENTIDADES UBICADAS
EN LOS EE.UU.: «SCHEREMS I» Y «SCHEREMS II» ......... 371
2. EL NUEVO MARCO TRANSATLÁNTICO DE PRIVACIDAD
DE DATOS ......................................................................... 392
2.1. Contexto................................................................ 392
2.2. Rasgos característicos............................................ 395
2.3. Especial atención a las reservas del Comité Europeo
de Protección de Datos al nuevo Marco transatlántico de privacidad de datos.................................... 401
2.4. Valoración crítica .................................................. 405
2.5. Perspectivas de futuro............................................ 409
CONCLUSIONES .................................................................... 414
BIBLIOGRAFÍA........................................................................ 419
CAPÍTULO 9
CREACIONES ARTÍSTICAS GENERADAS POR IA Y LOS RETOS DEL DERECHO DE AUTOR. eduardo vázquez de castro . 421
1. INTRODUCCIÓN........................................................... 423
2. LEGISLACIÓN VIGENTE Y CONCEPCIÓN ANTROPOCÉNTRICA ...................................................................... 429
2.1. Limitaciones del Marco Legal Actual para la IA generativa ................................................................. 438
2.2. IA,Creatividad y originalidad ................................. 442
3. OTRO TIPO DE DERECHOS DE PROPIEDAD INTELECTUAL DE LAS OBRAS GENERADAS POR IA, SU TITULARIDAD Y LA POSIBLE CONSIDERACIÓN DE DOMINIO
PÚBLICO........................................................................ 453
3.1. La protección de derechos afines o conexos de las
obras generadas por IA .......................................... 453
3.2. La posibilidad de considerar las obras generadas
por IA como de dominio público........................... 458
4. LA SOLUCIÓN DE LAS LICENCIAS COLECTIVAS AMPLIADAS PARA REGULARIZAR LAS BASES DE DATOS
UTILIZADAS PARA EL ENTRENAMIENTO DE LAS PLATAFORMAS DE IA GENERALES Y DE CREACIÓN........... 467
4.1. Consideraciones generales sobre las licencias colectivas ampliadas ................................................. 467
4.2. El modelo del Proyecto de Real Decreto sobre Licencias Colectivas Ampliadas en España pendiente
de ajustes y aprobación ......................................... 479
BIBLIOGRAFÍA........................................................................ 482
CAPÍTULO 10
LA CIUDAD INTELIGENTE VULNERABLE: ENFOQUE JURÍDICO SOBRE RIESGOS, DERECHOS Y GOBERNANZA ALGORÍTMICA. M.ª isaBel de la iglesia MonJe .................................... 487
1. LA CIUDAD INTELIGENTE VULNERABLE....................... 489
2. LA EVOLUCIÓN DEL CONCEPTO DE VULNERABILIDAD. EL CIUDADANO VULNERABLE ............................ 494
3. LAS POSIBLES VULNERABILIDADES EN LA CIUDAD INTELIGENTE ..................................................................... 497
3.1. Vulnerabilidad originadas en el ámbito de la ciberseguridad............................................................... 504
3.2. Vulnerabilidad originada en el ámbito de la falta de
protección de datos............................................... 506
3.3. Vulnerabilidad originada por amenazas físicas a
dispositivos conectados......................................... 510
3.4. Vulnerabilidad originada por la falta de capacitación y concienciación de los empleados que gestionan los servicios inteligentes y de los propios ciudadanos .................................................................... 511
4. EL ASPECTO HOLÍSTICO DE LA NUEVA ERA DE LA CIUDAD INTELIGENTE PONER EN OTRA HOJA.................. 512
5. EL DEFENSOR O GUARDIAN DE VULNERABILIDADES
EN LA CIUDAD INTELIGENTE........................................ 515
6. LA UTILIZACIÓN POR EL DEFENSOR DE VULNERABILIDADES DE LA HERRAMIENTA GESTOR DE VULNERABILIDADES......................................................................... 518
7. EL DEFENSOR DE VULNERABILIDADES Y REGLAMENTO DE INTELIGENCIA ARTIFICIAL DE LA UNIÓN EUROPEA PONER EN OTRA HOJA..................................... 519
7.1. Riesgos inaceptables en una smart city .................. 520
7.2. Riesgos altos de la IA en una smart city ................. 522
7.3. Riesgo medio en una smart city ............................. 525
8. LA NECESARIA SUPERVISIÓN HUMANA DE LOS SISTEMAS DE ALTO RIESGO EN LA CIUDAD INTELIGENTE .. 525
CONCLUSIONES OTRA HOJA................................................ 527
BIBLIOGRAFÍA........................................................................ 529
CAPÍTULO 11
EL USO DE LA INTELIGENCIA ARTIFICIAL EN SOSTENIBILIDAD Y MEDIO AMBIENTE. elena Fernández de la iglesia.......... 531
1. INTRODUCCIÓN........................................................... 533
2. INTELIGENCIA ARTIFICIAL Y SOSTENIBILIDAD............. 535
2.1. Qué entendemos por IA en este contexto .............. 535
2.2. Conceptos clave .................................................... 536
3. APLICACIONES DE LA INTELIGENCIA ARTIFICIAL EN EL
ÁMBITO MEDIOAMBIENTAL ......................................... 537
3.1. Monitoreo ambiental y sistemas de predicción climática ................................................................... 538
3.2. Gestión de recursos naturales y optimización del
consumo energético .............................................. 541
3.3. Agricultura inteligente y control de residuos.......... 543
3.4. Conservación de la biodiversidad .......................... 544
3.5. Ciudades inteligentes y movilidad sostenible......... 547
4. IMPACTO AMBIENTAL DE LA PROPIA INTELIGENCIA
ARTIFICIAL ..................................................................... 549
5. TRATAMIENTO DE DATOS............................................. 552
6. RESPONSABILIDAD EN APLICACIÓN DE LA IA EN SOSTENIBILIDAD AMBIENTAL ............................................. 555
7. MARCO NORMATIVO APLICABLE................................. 557
8. DESAFÍOS REGULATORIOS Y PROPUESTAS DE MEJORA 559
CONCLUSIONES .................................................................... 560
BIBLIOGRAFÍA........................................................................ 561
CAPÍTULO 12
INTELIGENCIA ARTIFICIAL Y COMPLIANCE LABORAL: RETOS Y FUTURO. ángel laFoz torres........................................ 567
1. INTRODUCCIÓN........................................................... 569
2. MARCO NORMATIVO: IA, IGUALDAD, SEGURIDAD
LABORAL Y COMPLIANCE............................................. 571
2.1. Ley 15/2022, de igualdad de trato y no discriminación....................................................................... 573
2.2. Ley 31/1995, de Prevención de Riesgos Laborales. 578
2.3. Reglamento (UE) 2024/1689: La Ley Europea de IA
y su impacto laboral .............................................. 585
2.3.1. Supervisión humana .................................. 586
2.3.2. Registro y vigilancia de mercado ............... 587
2.4. Norma UNE 19604:2017. Sistemas de gestión de
compliance sociolaboral........................................ 589
2.4.1. Planificación.............................................. 591
2.4.2. Identificación, evaluación y gestión de riesgos............................................................. 591
2.4.3. Diseño de controles y procedimientos....... 592
2.4.4. Sistema interno de información y denuncia 593
2.4.5. Supervisión y mejora continua (responsable
del sistema)................................................ 593
3. INTELIGENCIA ARTIFICIAL Y COMPLIANCE LABORAL:
RETOS LEGALES, ÉTICOS Y OPERATIVOS ...................... 595
3.1. Retos legales: derechos laborales vs decisiones automatizadas........................................................... 596
3.2. Retos éticos: transparencia, equidad y responsabilidad en la toma de decisiones................................. 597
3.3. Retos operativos: integración tecnológica, capacitación y gestión del cambio...................................... 598
4. PERSPECTIVAS DE FUTURO: HACIA UN COMPLIANCE
LABORAL ADAPTADO A LA IA ...................................... 599
CONCLUSIONES .................................................................... 601
BIBLIOGRAFÍA........................................................................ 603
CAPÍTULO 13
SEGUROS CIBERNÉTICOS EN EL SECTOR SANITARIO: UN
ENFOQUE JURÍDICO. PaBlo Muruaga herrero ...................... 615
1. EL CASO DEL HOSPITAL CLÍNIC COMO EXCUSA......... 617
2. EL QUID DE LA CUESTIÓN: LOS RIESGOS CIBERNÉTICOS Y SU ASEGURANZA............................................... 620
2.1. Su conceptualización ............................................ 620
2.2. Cuestiones básicas de la ciberaseguranza en el sector sanitario ........................................................... 622
2.3. La convivencia con los riesgos............................... 625
3. EL CONTRATO DE SEGURO CONTRA CIBERRIESGOS
EN EL ÁMBITO SANITARIO............................................ 628
3.1. Del concepto y función ......................................... 628
3.1.1. El ciberseguro: concepto............................ 628
3.1.2. ¿Cómo surgió esta —nueva— categoría?.... 629
3.1.3. El problema de la neutralidad del asegurador: un cambio de paradigma necesario .... 631
3.1.4. ¿Qué clase de seguro contratar?................. 634
3.2. ¿Qué daños cubrirá un ciberseguro en el sector sanitario? .................................................................. 635
BIBLIOGRAFÍA........................................................................ 639
CAPÍTULO 14
«EL SEÑOR DE LOS ALGORITMOS»: UNA NOVELA SOBRE
DATOS, ALGORITMOS Y DERECHO DE LA COMPETENCIA.
M.ª victoria torre sustaeta ....................................................... 645
1. PUNTO DE PARTIDA...................................................... 647
1.1. La inteligencia artificial en los mercados digitales.. 647
1.2. Cine y Derecho: «Un algoritmo para gobernarlos a
todos» ................................................................... 650
2. NUEVAS REALIDADES. NUEVAS CONDUCTAS. NUEVAS NECESIDADES......................................................... 652
2.1. Definiendo el mercado digital: Una aproximación a
las particularidades que lo caracterizan................. 652
2.2. Europa reacciona: nuevas armas, nuevas reglas y
más intervencionismo............................................ 655
3. HACIA ¿UNA NUEVA VERSIÓN DE LAS CONDUCTAS
ANTICOMPETITIVAS CLÁSICAS?: LA TRILOGÍA............. 658
3.1. Mi tesoro: El poder del bigdata .............................. 658
3.1.1. El caso Facebook: El acceso y el tratamiento
de datos como un nuevo parámetro........... 659
3.1.2. Precios personalizados: La información es
poder, y el algoritmo lo sabe...................... 661
3.2. «La Comunidad del Algoritmo»: Sobre el cártel implícito o algorítmico .............................................. 663
3.3. El algoritmo del Rey: Analizando el caso Google
(self-preferencing).................................................. 667
4. VÍAS DE ACTUACIÓN: ¿ES POSIBLE RECLAMAR DAÑOS
Y PERJUICIOS POR LOS ACTOS DE LOS GATEKEEPERS? 670
5. ¿CÓMO ACABARÁ ESTA HISTORIA? «NI EL MÁS SABIO
CONOCE EL FIN DE TODOS LOS CAMINOS»............... 675
CAPÍTULO 15
HACIA UNA EMPRESA «CONTROLLER» Y FIDUCIARIA EN
ESTADOS UNIDOS. Joan Martínez évora ................................ 677
1. APOSTANDO POR UNA EMPRESA «CONTROLLER» Y
FIDUCIARIA EN ESTADOS UNIDOS .............................. 679
1.1. Esbozo del problema ............................................. 679
1.1.1. Sobre la privacidad, o ausencia de privacidad, sobre los datos................................... 688
2. ENMIENDAS CONSTITUCIONALES, FIDEICOMISOS, Y
PROPIEDAD PRIVADA SOBRE LOS DATOS ................... 692
2.1. La Inteligencia Artificial y los datos........................ 702
3. HACIA UNA EMPRESA «CONTROLLER» CON DEBERES
FIDUCIARIOS................................................................. 707
4. CONCLUSIONES............................................................ 711