Uso de la informacion y de los datos personales en los procesos : los cambios en la era digital

LISTADO AUTORES

PRESENTACIÓN
HACIA UN NUEVO PARADIGMA EN EL USO DE LOS DATOS PERSONALES Y DE LA INFORMACIÓN EN LOS PROCESOS

IGNACIO COLOMER HERNÁNDEZ

PARTE PRIMERA
DIGITALIZACIÓN, ALGORITMOS Y PROCESO

CAPÍTULO 1
LOS DATOS EN EL SISTEMA DE JUSTICIA Y LA PROPUESTA DE REGLAMENTO UE SOBRE INTELIGENCIA ARTIFICIAL

VÍCTOR MORENO CATENA

I. El marco de desarrollo de la inteligencia artificial

II. La propuesta de Reglamento del Parlamento Europeo y del Consejo sobre uso de IA

III. Los datos de la Justicia

IV. La inteligencia artificial en el sistema de Justicia

1. Predicciones y prevención de delitos

2. Investigaciones y pruebas

3. Resoluciones

CAPÍTULO 2
LA DIGITALIZACIÓN Y LA ALGORITMIZACIÓN, CLAVES DEL NUEVO PARADIGMA DE JUSTICIA EFICIENTE Y SOSTENIBLE

SILVIA BARONA VILAR

I. Reflexiones iniciales: estrecha conexión entre la justicia y la sociedad global en latente estado de mudanza

II. De la Justicia “con manguitos” a la Justicia digital

III. De la catarsis de la revolución 4.0. A la incorporación de manifestaciones algorítmicas en la Justicia

1. Punto de partida: la catarsis de la Cuarta Revolución Industrial (4.0.)

2. Herramientas algorítmicas en la Justicia. Manifestaciones

IV. De los sistemas algorítmicos predictivos policiales (PredPol) y la hipervigilancia a la incorporación de los algoritmos en la investigación y sus transformaciones

1. Los sistemas de predictive policing o PredPol y la hipervigilancia policial

2. Incorporación de los algoritmos en la investigación penal

3. La incorporación de los modelos biométricos

V. ¿Puede algoritmizarse el oficio de ser Juez (judge Craft)? El dilema del robot-juez

1. Herramientas algorítmicas asistentes y complementarias del juez

2. La senda hacia la automatización y robotización judicial

VI. Una reflexión general

VII. Bibliografía

CAPÍTULO 3
EL PROCESO EN LA EUROPA DIGITAL: ENTRE RECUPERAR LIDERAZGOS Y PROTEGER DERECHOS

TERESA ARMENTA DEU

I. Un posible punto de partida

1. Primer aspecto: lo digital, números, computarización, estadística, datos y previsión

2. Segundo: transformaciones geopolíticas

3. Tercero: Medidas tecnológicas y algunas aplicaciones jurídicas: de la justicia digital en España. Fuentes de investigación y vigilancia legítima

3.1. Fuentes de investigación y prueba: “investigar para prevenir”

3.2. Vigilancia legítima y vigilancia ilícita

4. Cuarto: Problemas emergentes: sesgo y patrones, control, lenguaje servidumbre, gestión y colaboración público-privada, infalibilidad, subjetividad y opacidad

4.1. El problema del sesgo y la creación de patrones discriminatorios

4.2. La falta de control democrático sobre el desarrollo e implantación de la tecnología, claramente liderada hasta la fecha en el ámbito privado

4.3. El obstáculo del lenguaje jurídico

4.4. El impacto en los modelos organizativos de gestión pública y la colaboración público-privada

4.5. Crisis del jurista técnico, sumisión pericial, ecosistemas digitales y externalización (Entidades certificadoras)

4.6. Una justicia sin personas

4.7. Una justicia infalible

4.8. Los problemas inherentes a la subjetividad y al sentido común

4.9. La opacidad y el efecto caja-negra. Necesidad de regular la IA: las lecciones de SyRI y el programa BOSCO

4.10. El impacto de las plataformas de alojamiento de contenidos

II. ¿Qué hacer ante el innegable atraso y la preservación de los derechos?

1. Primera dificultad: la marginación de la norma jurídica y algunos problemas en las soluciones basadas en “soft law”: “grupos de expertos”, códigos éticos, “guide lines”, y “códigos de buenas prácticas”

2. Iniciativas de la Unión Europea para la digitalización y en materia de IA

3. Algunos aspectos destacables en las propuestas sobre futuras regulaciones de la IA y la protección de los derechos

III. A modo de breve reflexión final

IV. Bibliografía

CAPÍTULO 4
¿QUÉ ES LO QUE NO FUNCIONA EN LOS ALGORITMOS DE INTELIGENCIA ARTIFICIAL?

JUAN JOSÉ MURILLO FUENTES

I. Introducción

II. Inteligencia Artificial

1. Qué es Inteligencia Artificial

2. Machine Learning

2.1. Datos

2.2. Modelo

2.3. Algoritmo

2.4. Función de coste o pérdidas

3. Deep Learning

III. Alcance de la AI

IV. Taxonomía de los problemas del Machine Learning

1. Problemas de ML en los datos

1.1. Representatividad

1.2. Sesgos en los datos

1.3. Mezcla de criterios en el etiquetado

1.4. Errores en el etiquetado

1.5. Diferencias de formatos

1.6. Datos sustitutivos

2. Problemas en los modelos y algoritmos

2.1. Modelos

2.2. Algoritmos y función de pérdidas

2.3. Selección de características

V. Transparencia

VI. Conclusiones

VII. Bibliografía

CAPÍTULO 5
LÍMITES EN EL USO DE ALGORITMOS PREDICTIVOS DEL COMPORTAMIENTO DE LA PARTE PASIVA DEL PROCESO EN LA JUSTICIA PENAL DE MENORES

ESTHER PILLADO GONZÁLEZ

I. Consideraciones generales sobre algoritmos predictivos del comportamiento de la parte pasiva en el proceso penal

II. Riesgos de la utilización de algoritmos predictivos del comportamiento

1. Derecho a la protección de datos y privacidad

2. Sesgos y principio de igualdad

3. Derechos y garantías procesales

III. Posible aplicación de algoritmos predictivos del comportamiento en el proceso penal de menores

1. Medidas cautelares

2. Manifestaciones del principio de oportunidad

3. Medidas definitivas y su ejecución

IV. Límites en la utilización de los algoritmos predictivos en el proceso penal de menores

V. Conclusiones

VI. Referencias bibliográficas

CAPÍTULO 6
LA PREVISIBILIDAD JUDICIAL Y LA APLICACIÓN DE LA INTELIGENCIA ARTIFICIAL A LA ADOPCIÓN DE LAS RESOLUCIONES JUDICIALES

VICENTE PÉREZ DAUDÍ

I. Introducción

II. Premisas para la aplicación de la inteligencia artificial a la decisión judicial: la vinculación al precedente judicial

1. La igualdad en la aplicación de la ley por los órganos jurisdiccionales

2. La jurisprudencia, la vinculación con la decisión de los tribunales superiores y la independencia judicial

3. La vinculación del órgano jurisdiccional a sus criterios jurisdiccionales previos

4. La vinculación de los Tribunales a las sentencias del Tribunal Constitucional, del Tribunal de Justicia de la Unión Europea y del Tribunal Europeo de Derechos Humanos

III. El precedente judicial, la previsibilidad de la respuesta judicial y el tratamiento procesal de las cláusulas abusivas en los contratos de préstamo hipotecario

1. El fracaso de la función nomofiláctica del Tribunal Supremo

2. Los procedimientos testigo

3. Los ataques a la previsibilidad de las resoluciones judiciales

IV. Bibliografía

CAPÍTULO 7
BLOCKCHAIN Y SMART CONTRACTS: ¿UN ECOSISTEMA DIGITAL SEGURO AL MARGEN DE LA LEY?

SONIA CALAZA LÓPEZ

I. Introducción

II. Blockchain

III. Smart Contracts

IV. ¿Ecosistema digital seguro?

V. Bibliografía

CAPÍTULO 8
LA INTELIGENCIA ARTIFICIAL COMO NUEVA ESTRATEGIA DE PREVENCIÓN EN LOS DELITOS DE VIOLENCIA SEXUAL

MERCEDES LLORENTE SÁNCHEZ-ARJONA

I. Inteligencia artificial y perspectiva de género

II. Herramientas de justicia predictiva en los delitos de naturaleza sexual

1. Inteligencia artificial contra la violencia de género. Especial referencia a VIOGEN

2. Inteligencia artificial contra agresores sexuales en serie

3. Inteligencia artificial contra la pornografía infantil en Red

4. Herramientas de Inteligencia Artificial contra la Trata de personas

III. Los derechos fundamentales: la barrera de protección

IV. Bibliografía

CAPÍTULO 9
UTILIZACIÓN DE ALGORITMOS EN PROCEDIMIENTOS ADMINISTRATIVO-SANCIONADORES: GARANTÍAS QUE EL CASO SYRI NOS RECUERDA

SABELA OUBIÑA BARBOLLA

I. Administración Pública, Inteligencia Artificial y Derechos de los Ciudadanos

1. La sentencia del Tribunal de Distrito de la Haya, de 5 de febrero de 2020, en el caso SyRI

1.1. SyRI: concepto, finalidad y funcionamiento

1.2. Cuestiones preliminares

1.3. Las conclusiones de fondo: SyRI a la luz del derecho fundamental a la vida privada

1.3.1. Previsión legal

1.3.2. La suficiencia de la norma

1.3.3. La perspectiva general de la necesidad de la injerencia en una Sociedad democrática

1.3.4. La necesidad en sentido estricto: la proporcionalidad y los principios generales de protección de datos

a) Transparencia versus opacidad y posible discriminación

b) Limitación de la finalidad

c) Minimización de datos

II. Aproximación al nuevo procedimiento administrativo-sancionador automatizado en el ámbito de la Inspección de Trabajo y Seguridad Social al hilo del caso SyRI

1. El nuevo procedimiento sancionador promovido por actuación administrativa automatizada en el ámbito de la Administración General del Estado

2. Algunas reflexiones a través de los ojos del caso SyRI

III. Bibliografía

PARTE SEGUNDA
DATOS PERSONALES Y PROCESO PENAL

CAPÍTULO 10
PRINCIPIO DE DISPONIBILIDAD Y LIBRE CIRCULACIÓN DE EVIDENCIAS Y DATOS PERSONALES EN EUROPA. NUEVAS GARANTÍAS Y NUEVOS RIESGOS PARA LOS DERECHOS INDIVIDUALES

STEFANO RUGGERI

I. Los pilares de la cooperación probatoria e informativa en Europa: los principios de disponibilidad y de libre circulación

II. Circulación probatoria, principio de contradicción y derecho de defensa

1. Límites a la obtención y libertad de transferencia de evidencias entre procedimientos

2. Principio de disponibilidad y free movement of evidence en el proyecto de armonización del derecho probatorio en la Unión europea

2.1. Límites y potencialidades de la Directiva sobre la euroorden de investigación

2.2. Los aportes de la jurisprudencia nacional y europea

III. Cooperación informativa y libre circulación de datos. Un fenómeno de enorme magnitud y múltiples riesgos para los derechos individuales

IV. Conclusiones

CAPÍTULO 11
PRUEBA PENAL GENERADA AUTOMÁTICAMENTE: EL NUEVO LÍMITE DE LA IGUALDAD DE ARMAS

SERENA QUATTROCOLO

I. Introducción. La prueba penal en Europa

1. El concepto de prueba digital

2. Lo que escapa al concepto de prueba digital

II. La prueba generada automáticamente

1. Transparencia y explicabilidad

2. El límite de la igualdad de armas

III. Investigaciones digitales ‘extremas’

1. ¿Una paradoja?

IV. Algunas conclusiones

CAPÍTULO 12
LA INVESTIGACIÓN EN LA EMPRESA, ILICITUD DE LA PRUEBA Y USO DE DATOS EN EL PROCESO PENAL

FERNANDO SOTO PATIÑO

I. Introducción

II. Los canales de denuncia

III. La introducción legal de los canales de investigación interna

IV. La investigación. Fases

1. El inicio de la investigación. Anonimato vs confidencialidad

2. Fase preliminar. El Juicio de suficiencia

3. Estructura de la investigación

4. Apertura de investigación

4.1. La investigación en sí. Los medios

4.2. Resultados y consecuencias

V. El valor y riesgo de las investigaciones empresariales

1. El riesgo de afectación a derechos fundamentales

2. Evolución jurisprudencial de la sala cuarta del Tribunal Supremo

VI. El estado de la cuestión en materia de ilicitud de la prueba obtenida en investigación interna

1. Evolución y apartamiento

VII. Doctrina penal de la sala segunda acerca de la validez de las investigaciones internas corporativas

1. Consagración en el ámbito penal de un derecho a un entorno digital seguro. El derecho a la autodeterminación informativa

2. Eficacia horizontal de derechos fundamentales

3. Derechos de necesaria autorización judicial

4. La intimidad como derecho subsidiario

5. No aplicación de la regla de exclusión en particulares

6. Excepción a prefabricar la prueba para un proceso penal

7. Recepción de la doctrina del Juicio de proporcionalidad y puesta a disposición del social

VIII. Bibliografía

CAPÍTULO 13
LA NUEVA DOCTRINA DEL TRIBUNAL SUPREMO FRENTE A LA JURISPRUDENCIA DEL TRIBUNAL DE JUSTICIA DE LA UNIÓN EUROPEA EN MATERIA DE CONSERVACIÓN PREVENTIVA DE DATOS DE TELECOMUNICACIONES

JOSÉ LUIS RODRÍGUEZ LAINZ

I. Planteamiento

II. El origen del problema: la incompatibilidad de los regímenes de conservación preventiva de datos por mandato directo de la Ley con el derecho de la Unión

III. La defenestración de la Directiva 2006/24/CE: de la STJUE (gran sala) de 8 de abril de 2014 a la STJUE (gran sala) de 21 de diciembre de 2016

IV. El punto de inflexión de la doctrina del Tribunal de Luxemburgo: la STJUE (Gran Sala), de 8 de octubre de 2020

V. La influencia de la reciente jurisprudencia del Tribunal Europeo de Derechos Humanos en la evolución de la doctrina del Tribunal de Luxemburgo

VI. La reacción del Tribunal Supremo: la STS 727/2020, de 23 de marzo de 2021

CAPÍTULO 14
LA LEY ORGÁNICA 7/2021, DE PROTECCIÓN DE DATOS EN MATERIA PENAL: ÁMBITO Y PRINCIPIO DE PROPORCIONALIDAD

JOSÉ ANTONIO COLMENERO GUERRA

I. Introducción

II. Aproximación a la regulación interna en materia de protección de datos

III. Normas de la Unión Europea sobre protección datos, con incidencia en el ámbito penal

IV. El Derecho al entorno virtual

V. Sistema de protección de datos personales en el ámbito penal

1. Introducción

2. Fines de la Ley

3. Ámbito objetivo

3.1. Ámbito objetivo

3.1.1. Datos no automatizados

3.1.2. Materias sometidas al RGPD y la LOPDP

3.1.3. Materias de política exterior y de seguridad común

3.1.4. Materias no comprendidas en el ámbito de aplicación del Derecho de la UE

3.1.5. Materias clasificadas y tratamientos relativos a la Defensa Nacional

3.2. Ámbito subjetivo

3.2.1. Autoridades competentes

3.2.2. Categorías de interesados

4. Plazos de conservación y revisión de los datos personales

CAPÍTULO 15
LA DIALÉCTICA ENTRE DERECHOS FUNDAMENTALES Y SEGURIDAD EN EL USO PENAL DE LOS DATOS DE NUESTROS VUELOS EN LA UNIÓN EUROPEA

M.ª ÁNGELES CATALINA BENAVENTE

I. Introducción

II. La recogida de datos personales de quienes se desplazan en avión dentro de la Unión Europea

1. La recogida de los datos PNR

2. El Formulario de Localización