La investigación en ciencias sociales y jurídicas en tiempos de IA

PRÓLOGO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
I
LA CAJA NEGRA ALGORÍTMICA: LA INTELIGIBILIDAD COMO DERECHO EN LA ERA DIGITAL
FRANCISCO MOYANO DIEZ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
2. Marco conceptual: legitimidad, inteligibilidad y opacidad . . . 23
2.1. La legitimidad discursiva . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
2.2. La inteligibilidad en la era algorítmica . . . . . . . . . . . . . . . . . . . . 25
2.3. La opacidad: concepto y dimensiones . . . . . . . . . . . . . . . . . . . . . 26
3. Marco normativo vigente . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
3.1. RGPD . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28
3.2. LOPDGDD . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
3.3. RIA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
4. Jurisprudencia: la STS 3826/2025 . . . . . . . . . . . . . . . . . . . . . . . . . . 32
4.1. Antecedentes de hecho y cuestión litigiosa . . . . . . . . . . . . . . . . . 32
4.2. Criterio del Tribunal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
4.2.1. Respecto al límite de la Propiedad Intelectual . . . . . 34
4.2.2. Respecto al límite de la Seguridad Pública . . . . . . . 36
4.2.3. Fallo y consideraciones . . . . . . . . . . . . . . . . . . . . . . . . 37
5. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
II
RIESGOS Y BENEFICIOS DE LA INTELIGENCIA ARTIFICIAL EN EL ENJUICIAMIENTO
Análisis de la cuestión a través de la literatura, cómics, cine y anime
CARLOS DE LARA VENCES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
2. El informe de la minoría . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
3. Psycho-pass . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
4. Derecho penal del enemigo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
5. El proceso . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
6. 1984 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
7. Person of Interest . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
8. Análisis de casos reales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
8.1. Bosco . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
8.2. Modelos predictivos de reincidencia . . . . . . . . . . . . . . . . . . . . . . 52
8.2.1. RisCanvi y Tvr . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
8.2.2. Compas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
9. Cuestiones jurídicas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
9.1. Legislación Española . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
9.2. Jurisprudencia Española . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
9.3. Legislación Unión Europea . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
9.4. Jurisprudencia del Tribunal de Justicia de la Unión Europea . . . 59
9.5. Jurisprudencia del Tribunal Europeo de Derechos Humanos . . . 60
10. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
III
CHATBOTS BASADOS EN INTELIGENCIA ARTIFICIAL
¿La clave para la prevención temprana de la victimización sexual infantil en el ciberespacio?
ESTER GUTIÉRREZ CORA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
2. La ciberdelincuencia sexual infantil: una realidad alarmante en cifras . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
2.1. El aumento de la cibercriminalidad en España . . . . . . . . . . . . . . 67
2.2. Delitos sexuales contra los menores en internet: su facilitación y magnificación a través del uso de instrumentos de Inteligencia Artificial . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
2.2.1. El fenómeno online child sex grooming . . . . . . . . . . . . 69
2.2.2. El fenómeno webcam child sex tourism . . . . . . . . . . . . 71
3. Marco conceptual del chatbot basado en Inteligencia Artificial y su traslación al campo procesal-penal . . . . . . . . . . . . . . . . . . . . 73
3.1. Concepto de chatbot . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73
3.2. Los casos en la práctica internacional y nacional: los chatbots Sweetie Girl, Negobot y AinoAi . . . . . . . . . . . . . . . . . . . . . . . 74
4. La operatividad del sistema frente a la innovación criminal . . 76
4.1. El dilema entre la eficiencia y las garantías . . . . . . . . . . . . . . . . . 76
4.2. El marco de tutela del Proyecto de Ley Orgánica para la protección de las personas menores de edad en los entornos digitales de
11 de abril de 2025 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
5. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
IV
EL DERECHO PENAL ANTE LA DISCRIMINACIÓN ALGORÍTMICA LABORAL
ANA ISABEL GARCÍA ALFARAZ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87
1. Introducción: el trabajo en la era de la Inteligencia Artificial . . 88
2. La Inteligencia Artificial y los derechos humanos: especial consideración a la discriminación algorítmica . . . . . . . . . . . . . . . . . 90
3. Protección penal de la discriminación laboral . . . . . . . . . . . . . . 97
3.1. Una propuesta de reforma del art. 314 CP . . . . . . . . . . . . . . . . . 106
4. Reflexiones finales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
V
INTELIGENCIA ARTIFICIAL Y PROTECCIÓN DE DATOS: LA BÚSQUEDA DEL EQUILIBRIO ENTRE INNOVACIÓN Y PRIVACIDAD
SERGIO HERNÁNDEZ MORANTE . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111
1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
2. Objetivos de la nueva normativa europea sobre IA . . . . . . . . . 115
3. Jurisprudencia europea relevante en la Protección de Datos y la IA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120
4. Retos y desafíos de la IA en la protección de datos . . . . . . . . . . 125
4.1. Aprendizaje automatizado . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126
4.2. Discriminación y sesgos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127
4.3. El reconocimiento biométrico . . . . . . . . . . . . . . . . . . . . . . . . . . . 128
5. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 130
VI
LA IA EN LA VERIFICACIÓN DE LOS REQUISITOS DE SOLVENCIA DE LOS CONTRATISTAS PÚBLICOS DE OBRAS
MARIO MARTÍN GARCÍA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133
1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134
2. Acreditación de la solvencia para contratar con la Administración: la clasificación de las empresas . . . . . . . . . . . . . . . . . . . . . . 135
3. Principales errores administrativos en la clasificación y papel de la IA al respecto . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 138
4. La detección de errores en la clasificación, ¿error material o de derecho? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
5. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
VII
IA APLICADA AL DERECHO CONCURSAL: OPORTUNIDADES, APLICACIONES Y LÍMITES
GUILLERMO PLAZA ESCRIBANO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149
1. Oportunidades: eficiencia y rentabilidad del proceso concursal . 150
1.1. La justicia como inversión pública . . . . . . . . . . . . . . . . . . . . . . . 150
1.2. La justicia no solo como gasto, sino como generador de riqueza . 151
1.3. El requisito esencial de la eficiencia . . . . . . . . . . . . . . . . . . . . . . . 156
2. Aplicaciones dentro de la justicia . . . . . . . . . . . . . . . . . . . . . . . . . 157
2.1. Automatización . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157
2.2. Automatización: flujos de trabajo e inteligencia artificial . . . . . . 158
2.3. Flujos de trabajo (workflow) . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158
2.4. Inteligencia Artificial (IA) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158
3. Conclusiones clave sobre justicia concursal e innovación tecnológica . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 163
3.1. La justicia es inversión, no gasto: eficiencia es recaudación, liquidez y empleo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 163
3.2. La combinación de «automatizaciones, flujos de trabajo e inteligencia artificial» mejora la productividad y profesionaliza la toma de decisiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164
3.3. IA sí, pero con tutela judicial, privacidad y rendición de cuentas 164
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165
VIII
DECISIONES TOMADAS POR IA EN LA PRESTACIÓN DE SERVICIOS PÚBLICOS ASISTENCIALES EN LAS ENTIDADES LOCALES: DISCRECIONALIDAD E INTERVENCIÓN HUMANA
PAULA M.ª TOMÉ DOMÍNGUEZ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167
1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
2. Regulación de la Inteligencia Artificial en la actividad administrativa: de la administración electrónica y las actuaciones automatizadas al machine learning . . . . . . . . . . . . . . . . . . . . . . . . 170
2.1. Administración electrónica y decisiones automatizadas . . . . . . . 170
2.2. La irrupción de la Inteligencia Artificial y los diferentes enfoques normativos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175
3. El procedimiento administrativo en las entidades locales: prestación de servicios públicos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 184
3.1. Procedimiento administrativo e Inteligencia Artificial . . . . . . . . 184
3.2. Régimen jurídico de la prestación de servicios en las Entidades Locales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191
4. Incorporación de la IA en el proceso de prestación de servicios públicos locales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194
4.1. Perspectiva general . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194
4.2. La evaluación de situaciones de especial necesidad y asistencia social . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198
5. Conclusiones: desafíos y oportunidades de la IA en la prestación de servicios públicos locales . . . . . . . . . . . . . . . . . . . . . . . . . 202
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204
IX
LA INTELIGENCIA ARTIFICIAL: UNA HERRAMIENTA ÚTIL PARA AUTOMATIZAR PROCESOS UNIVERSITARIOS Y CLAVES PARA SU APLICACIÓN RESPONSABLE
PALOMA GARCÍA ESTEBAN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207
1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 208
2. La inteligencia artificial y la automatización de la universidad: fundamentos y evolución . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
2.1. Concepto y alcance de la Inteligencia Artificial . . . . . . . . . . . . . 209
2.2. Cómo afecta el uso de la Inteligencia Artificial a la educación superior . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211
2.3. Ámbitos de aplicación: gestión administrativa, docencia e investigación . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212
3. Oportunidades y riesgos de la aplicación de la inteligencia artificial . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214
3.1. Beneficios potenciales: eficiencia, personalización e inclusión . . 215
3.2. Riesgos y desafíos: sesgos, privacidad, dependencia y brecha digital . 217
3.3. El papel de la regulación y la ética: UNESCO, AI Act de la Unión Europea y marcos institucionales . . . . . . . . . . . . . . . . . . . . . . . . 218
4. Hacia una implementación responsable de la Inteligencia
Artificial en el ámbito universitario . . . . . . . . . . . . . . . . . . . . . . . 219
4.1. Formación y alfabetización digital . . . . . . . . . . . . . . . . . . . . . . . 220
4.2. Adaptación cultural . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221
5. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 222
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
X
CONSIDERACIONES ÉTICAS SOBRE EL USO DE LA INTELIGENCIA ARTIFICIAL EN INVESTIGACIÓN CIENTÍFICA
ALBERTO JOSÉ MARTÍN ALONSO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 227
1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 228
2. Diferentes aproximaciones al concepto de IA . . . . . . . . . . . . . . . 230
3. Aproximación al funcionamiento de la IA . . . . . . . . . . . . . . . . . 232
3.1. Características diferenciales de la IA: aprendizaje automático y profundo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232
3.2. Tipos de IA según su alcance funcional: general y estrecha . . . . 234
4. Uso de sistemas de IA en investigación ciencias sociales y jurídicas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236
5. Consideraciones éticas sobre el uso de la IA en investigación científica . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239
5.1. Ética e investigación científica . . . . . . . . . . . . . . . . . . . . . . . . . . 240
5.2. Principales problemáticas éticas del uso de la IA . . . . . . . . . . . . 241
5.3. Principios y prácticas para un uso ético de la IA en investigación . 244
6. Reflexión final: hacia una responsabilidad ética colectiva e institucional . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 246
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249
XI
RIESGOS DEL USO DE LA INTELIGENCIA ARTIFICIAL EN LA INVESTIGACIÓN JURÍDICA: ANÁLISIS Y PROPUESTAS
DRA. ALEJANDRA SUÁREZ SEDANO
DRA. DIANA PAOLA GONZÁLEZ MENDOZA . . . . . . . . . . . . . . . . . . . . . . . . 253
1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 254
2. Sesgos algorítmicos y su impacto en los resultados científicos . 256
2.1. Concepto de «sesgo algorítmico» . . . . . . . . . . . . . . . . . . . . . . . . . 256
2.2. Origen de los sesgos algorítmicos . . . . . . . . . . . . . . . . . . . . . . . . 258
2.2.1. Sesgos en los datos de entrenamiento . . . . . . . . . . . . 259
2.2.2. Sesgos en el diseño del modelo de IA . . . . . . . . . . . . 261
2.2.3. Sesgos derivados de interacción con el usuario . . . 262
2.3. Impacto de los sesgos algorítmicos en la investigación jurídica . 263
3. Posible vulneración de la normativa aplicable a los datos personales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 265
3.1. El marco jurídico aplicable al tratamiento de datos personales . . 265
3.2. La búsqueda de jurisprudencia mediante sistemas de inteligencia artificial entrenados con bases de datos . . . . . . . . . . . . . . . . . . . . 265
3.3. La búsqueda de doctrina y normativa mediante sistemas de inteligencia artificial entrenados con bases de datos jurídicas . . . . . . 271
3.4. Los datos provenientes de la realización de encuestas y la utilización de sistemas basados en inteligencia artificial . . . . . . . . . . . . 271
4. Conclusiones y propuestas: ¿Qué podemos hacer desde la investigación jurídica? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 272
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 272
XII
LOS LÍMITES ÉTICOS DE LA UTILIZACIÓN DE LA IA EN LA INVESTIGACIÓN JURÍDICA
Reflexiones y propuestas para un ejercicio responsable de las tecnologías emergentes en el entorno universitario
NORBERTO RODRÍGUEZ GAYO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 275
1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 276
2. Revisión histórica de las herramientas utilizadas, desde métodos tradicionales hasta la IA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 278
3. Análisis del impacto de la IA en el derecho, abordando usos, ventajas y riesgos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 280
4. Exposición de principios éticos fundamentales como transparencia, responsabilidad, integridad y supervisión humana . . . 284
5. Estudio de las políticas regulatorias de universidades y organismos internacionales, identificando buenas prácticas y desafíos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 286
6. Las pautas de uso de la IA en las universidades españolas . . . 289
7. Propuesta de un estándar ético integral con recomendaciones para investigadores, instituciones y editores . . . . . . . . . . . . . . . 292
8. Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 293
9. Declaración uso de la IA en la redacción del presente artículo . 294
Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 295
EPÍLOGO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 299