La predicción del riesgo y el riesgo de la predicción en los sistemas penitenciarios

PRÓLOGO
JOSÉ LUIS DE LA CUESTA ARZAMENDI ................................................ 23
PARTE I: ANÁLISIS DESCRITIVO
CAPÍTULO 1
VALORACIÓN DEL RIESGO E IA EN EL ÁMBITO PENITENCIARIO EN LA ERA DE LAS SMART PRISONS:
ANDAR ANTES DE CORRER PROF. DR. FERNANDO MIRÓ LLINARES Y SANDRA PÉREZ DOMÍNGUEZ............................................................................................. 27
1. Lo inteligente (y lo no tanto) del término “smart prisons” .. 27
2. El contexto: Digitalización, algoritmización e IA en prisiones 30
3. La valoración del riesgo en el ámbito penitenciario en tiempos de IA......................................................................................... 38
4. Andar (en la dirección adecuada) antes que correr o quedarse inmóvil....................................................................................... 43
5. Referencias..................................................................................... 46
CAPÍTULO 2
ALGORITMOS DE REINCIDENCIA: ¿HERRAMIENTA ÚTIL PARA EUSKADI? REVISIÓN SISTEMÁTICA SOBRE VARIABLES, MODELOS E INTERPRETACIÓN EN EL ÁMBITO PENITENCIARIO
ANE VIANA SALINAS Y LEYRE PADILLA LÓPEZ ................................. 51
1. Introducción: contexto y objetivos ............................................ 51
2. Análisis de la literatura sobre algoritmos de reincidencia... 53
3. Evaluación crítica de modelos, variables y resultados .......... 58
4. Discusión: Estado de la cuestión actual e implicaciones para Euskadi ........................................................................................... 63
5. Conclusiones.................................................................................. 67
6. Referencias..................................................................................... 70
CAPÍTULO 3
LA VALORACIÓN PREDICTIVA DEL RIESGO EN LA EJECUCIÓN PENAL: LÍMITES, GARANTÍAS Y PROPUESTAS PARA EL ÁMBITO PENITENCIARIO VASCO IZASKUN IBABE........................................................................................ 77
1. Introducción................................................................................... 77
2. Modelos de herramientas predictivas de valoración del riesgo ............................................................................................... 79
2.1. El modelo Riesgo-Necesidad-Responsividad como marco teórico ................................................................................... 79
2.2. Tipologías de instrumentos de valoración del riesgo............ 80
2.2.1. Juicio clínico no estructurado................................ 80
2.2.2. Juicio clínico estructurado ..................................... 81
2.2.3. Métodos actuariales ................................................ 82
2.2.4. Modelos mixtos básicos y avanzados .................. 82
2.3. Límites predictivos, validez externa y garantías jurídicas... 84
3. Uso de herramientas predictivas en el ámbito español......... 88
4. Multi-escala RisCanvi.................................................................. 90
5. Propuesta de marco prospectivo para la eventual incorporación de una herramienta en el sistema penitenciario vasco . 93
6. Conclusiones: bases para un modelo avanzado y garantista 97
7. Referencias..................................................................................... 99
CAPÍTULO 4
COMPARATIVA EUROPEA DE HERRAMIENTAS ALGORÍTMICAS E INTELIGENCIA ARTIFICIAL PARA PREDECIR LA REINCIDENCIA DE LA POBLACIÓN PENITENCIARIA Y RECOMENDACIONES PARA SU POTENCIAL IMPLEMENTACIÓN EN LA CAPV
AITOR MARTÍNEZ GONZÁLEZ............................................................... 103
1. Introducción................................................................................... 103
2. Herramientas algorítmicas predictoras de reincidencia en la UE ................................................................................................ 105
2.1. Finlandia .............................................................................. 106
2.2. Países Bajos.......................................................................... 107
2.3. Estonia.................................................................................. 110
2.4. Grecia, Chipre, Portugal y Bulgaria .................................... 111
2.5. Suiza..................................................................................... 113
3. Consideraciones éticas y legales a tener en cuenta para su implementación en la CAPV...................................................... 114
4. Conclusiones.................................................................................. 117
5. Referencias..................................................................................... 119
PARTE II: RisCanvi
CAPÍTULO 5
EL PROTOCOLO RISCANVI PARA LA GESTIÓN DEL RIESGO EN EL SISTEMA PENITENCIARIO DE CATALUÑA DR. A. ANDRES-PUEYO ............................................................................ 125
1. Introducción................................................................................... 125
2. RisCanvi en el modelo rehabilitador de las prisiones en Cataluña............................................................................................... 128
3. Aplicaciones del RisCanvi en la gestión penitenciaria......... 133
4. Conclusiones.................................................................................. 138
5. Referencias..................................................................................... 140
CAPÍTULO 6
EVALUACIÓN TÉCNICA Y ÉTICA DEL SISTEMA RISCANVI: POTENCIALIDADES Y RIESGOS EN LA PREDICCIÓN ALGORÍTMICA PENITENCIARIA IULEN IBÁÑEZ BAÑOS ............................................................................ 145
1. Introducción................................................................................... 145
2. Presupuestos técnicos y de datos............................................... 146
3. Potencialidades de evolución..................................................... 147
4. Discusión........................................................................................ 147
5. Minimización de riesgos ............................................................. 148
6. Conclusiones.................................................................................. 148
7. Referencias..................................................................................... 149
CAPÍTULO 7
LA ARQUITECTURA DE LA TOMA DE DECISIONES EN EQUIPO EN EL ÁMBITO PENITENCIARIO: RETOS ÉTICOJURÍDICOS DE LAS HERRAMIENTAS PREDICTIVAS DE VIOLENCIA Y DE QUEBRANTAMIENTO DE CONDENA GEMA VARONA MARTÍNEZ.................................................................... 151
1. Introducción: un acercamiento ético-jurídico y criminológico a la adaptación de la herramienta RisCanvi....................... 153
1.1. Datos básicos sobre RisCanvi............................................... 154
1.2. Algunas ventajas y desventajas de las herramientas de valoración y gestión del riesgo, en particular en el funcionamiento de RisCanvi.............................................................. 155
1.3. Requisitos tecnológicos y jurídicos básicos para una posible adaptación de RisCanvi........................................................ 161
1.4. Objetivo y estructura del capítulo........................................ 161
2. Marco normativo del Consejo de Europa en el ámbito penal sobre el uso de la inteligencia artificial y tecnologías similares.................................................................................................. 162
3. Marco jurídico sobre la inteligencia artificial en la Unión Europea ........................................................................................... 168
4. Marco jurídico básico, comunitario y español, sobre protección de datos, en particular en relación con el uso de perfilaciones y predicciones en el ámbito penitenciario: El Reglamento General de Protección de Datos (RGPD) de 2016 de la UE, la Ley Orgánica 3/2018 de Protección de Datos Personales y Garantía de los Derechos Digitales, la Directiva 2016/680 y la Ley Orgánica 7/2021 sobre protección de datos personales en el ámbito penal, y su conexión con la Ley Orgánica General Penitenciaria y el Reglamento Penitenciario ...................... 173
4.1. Normativa europea y española general sobre protección de datos ..................................................................................... 173
4.2. Normativa europea y española de protección de datos en el ámbito penal-penitenciario: la Directiva 2016/680, la Ley Orgánica 7/2021 sobre protección de datos personales en el ámbito penal y el Reglamento penitenciario español ........... 176
5. Contraste del marco normativo con un análisis de resoluciones judiciales que mencionan la Tabla de Valoración de Riesgo y la herramienta RisCanvi............................................. 180
6. Contraste a través de un trabajo de campo realizado en Euskadi: Observación no participante de la toma de decisiones técnicas en las tres prisiones vascas .......................................... 196
6.1. Metodología del trabajo de campo de observación no participante..................................................................................... 198
6.2. Consideraciones éticas.......................................................... 199
6.3. Limitaciones ......................................................................... 200
6.4. Resultados del análisis temático con palabras y extractos ilustrativos ........................................................................... 200
6.4.1. Complejidad en el manejo y limitaciones de la información disponible .......................................... 201
6.4.2. Interdisciplinariedad en el trabajo en equipo ..... 202
6.4.3. Retos y complementariedad a la hora de llegar a consensos desde la diversidad de perspectivas técnicas y humanas, donde se reconocen posibles sesgos ................................................................ 202
6.4.4. Manejo diverso de tablas en papel de factores de valoración como criterios de orientación y justificación...................................................................... 205
6.4.5. Desconocimiento, suspicacia, interés y ofrecimiento de colaboración ante la experiencia del RisCanvi en Cataluña y su posible adaptación en el País Vasco........................................................ 209
6.4.6. Necesidad de más recursos humanos, materiales y tecnológicos..................................................... 210
6.5. Consideración final............................................................... 210
7. Contraste a través de un cuestionario y un grupo de opinión desarrollado con estudiantes universitarios vascos............... 211
7.1. Resultados: número de respuestas y perfiles sociodemográficos 212
7.2. Mayor identificación con alguna de las personas que participan en el pódcast sobre RisCanvi (abogados/as, funcionarios/as, técnicos/as que la elaboraron, perfeccionan y/o auditan, condenados/as...) y mayor preocupación en el uso de RisCanvi .......................................................................... 213
7.3. Mayor beneficio que aportaría la utilización de este tipo de herramienta en las prisiones vascas ..................................... 217
7.4. Adecuación de la inversión de fondos públicos en este tipo de herramienta y, en su caso, de sistemas de control............ 220
7.5. Otros comentarios adicionales.............................................. 223
7.6. Grupo de discusión............................................................... 224
7.7. Consideraciones generales.................................................... 224
8. Recapitulación: Navegando entre un juicio clínico, un juicio probabilístico y un sistema mixto....................................... 224
9. Referencias..................................................................................... 233
CAPÍTULO 8
LAS DOS CARAS DE LOS ALGORITMOS DE ESTIMACIÓN DE RIESGO EN EL ÁMBITO PENITENCIARIO: RECOMENDACIONES PARA CONJUGAR PREVENCIÓN Y GARANTÍAS LUCÍA MARTÍNEZ GARAY....................................................................... 245
1. Introducción................................................................................... 246
2. Las dos caras de RisCanvi........................................................... 246
3. La primacía del aspecto tratamental en el diseño, implementación y supervisión de RisCanvi...................................... 248
4. Paradojas que produce la tensión entre la dimensión tratamental/preventiva, y la de garantías ......................................... 251
4.1. ¿Puede la capacidad predictiva de RisCanvi ser buena y mala a la vez? ¿Puede afirmarse al mismo tiempo que RisCanvi minimiza los falsos positivos, y que produce demasiados?........... 251
4.2. La capacidad predictiva es mejor o peor según cuál sea el objetivo que perseguimos. ¿Cuál es el objetivo y quién debe establecerlo? ......................................................................... 258
4.3. ¿Produce RisCanvi efectos discriminatorios prohibidos, o no los produce?..................................................................... 260
4.4. ¿Es RisCanvi una herramienta que mejora la transparencia de las decisiones, o un algoritmo opaco que vulnera el derecho de acceso a los datos personales y el derecho de defensa?.................. 267
5. Conclusiones generales ............................................................... 271
6. Recomendaciones concretas si se quiere implantar alguna herramienta parecida a RisCanvi en el sistema penitenciario vasco .......................................................................................... 276
6.1. Mantener la propiedad y el control sobre los modelos y sobre los datos................................................................................ 276
6.2. Necesidad de evaluación previa, continua, y por resultados agregados.............................................................................. 277
6.3. Transparencia ....................................................................... 278
6.4. Conflicto con protección de derechos.................................... 279
7. Referencias..................................................................................... 284
PARTE III: ANÁLISIS CRÍTICO
CAPÍTULO 9
ALGORITMO, ALGORITMO… ¿ME PODRÍAS DECIR QUÉ PUEDES APORTAR MEDIANTE LA PREDICCIÓN DE RIESGO DE REINCIDENCIA EN LA MISIÓN DE FACILITAR QUE TODAS LAS PERSONAS QUE DEBAN CUMPLIR UNA PENA Y MEDIDA PENAL EN EUSKADI LO HAGAN EN CONDICIONES DE DIGNIDAD, RESPETANDO SUS DERECHOS Y AYUDÁNDOLES A PREPARARSE BIEN PARA SU RÁPIDA REINTEGRACIÓN A LA SOCIEDAD? JUAN ALDAZ ARREGUI ........................................................................... 291
1. Introducción................................................................................... 292
2. Riesgos de la predicción de riesgos........................................... 294
2.1. Una mirada general al marco de la sociedad del riesgo........ 295
2.2. El paradigma del riesgo en el ámbito penitenciario.............. 296
3. La dificultad de cuantificar y predecir el futuro ..................... 299
4. Algunos de los dilemas centrales de la potencial aplicación de algoritmos predictivos al ámbito penitenciario ................ 303
4.1. Datificación de la realidad. Entre la calidad y la calidez de los datos................................................................................ 304
4.2. El procesamiento de los datos. Entre la búsqueda de la agilización y el riesgo de la precipitación .................................... 307
4.3. Decisiones informadas. Entre sesgos y aprendizajes............ 309
5. Retos organizativos previos a la potencial implementación de un algoritmo predictivo ......................................................... 310
6. Conclusiones.................................................................................. 313
7. Referencias..................................................................................... 314
CAPÍTULO 10
APROXIMACIÓN CRÍTICA AL USO DE INSTRUMENTOS ALGORÍTMICOS EN LA EJECUCIÓN PENITENCIARIA DESDE LA PERSPECTIVA DEL DERECHO PENAL LORENA ALEMÁN ARÓSTEGUI........ 317
1. Introducción: el uso de algoritmos y la determinación del castigo penal .................................................................................. 317
2. El Derecho penal y la incidencia de la peligrosidad en la determinación del castigo ........................................................... 319
2.1. Derecho penal de la culpabilidad por el hecho...................... 320
2.2. El ámbito de valoración de la peligrosidad: su extensión a las penas y a los sujetos imputables ..................................... 322
3. Peligrosidad, riesgo y uso de algoritmos en la ejecución penitenciaria....................................................................................... 324
3.1. Peligrosidad versus valoración del riesgo............................. 325
3.2. Aspectos positivos y negativos del uso de instrumentos algorítmicos frente al juicio clínico en la ejecución penitenciaria . 330
4. Conclusiones.................................................................................. 337
5. Referencias..................................................................................... 343
CAPÍTULO 11
INSTRUMENTOS DE PREDICCIÓN DE LA PELIGROSIDAD Y EJECUCIÓN PENITENCIARIA: EL AVANCE DEL DERECHO PENITENCIARIO DEL ENEMIGO ANA I. PÉREZ MACHÍO................... 349
1. Referencias..................................................................................... 354
CAPÍTULO 12
PERSPECTIVAS DE UNA PSICÓLOGA EN PRISIONES VASCAS SOBRE LA EVALUACIÓN DEL RIESGO DE REINCIDENCIA MARIAN MORENO MATA ....................................................................... 357
CAPÍTULO 13
LA REVOLUCIÓN DE LA IA EN EL MUNDO JURÍDICOJUDICIAL. ALGUNOS PROBLEMAS ACTUALES Y UNA MIRADA HACIA EL FUTURO
ALBERTO SAIZ GARITAONANDIA......................................................... 361
1. Introducción. la IA en su momento “Manhattan”.................. 361
2. La IA y su uso en el ámbito jurídico-judicial: de las primeras experiencias predictivas a la IA generativa....................... 363
2.1. Experiencias de uso de IA en la predicción de resoluciones judiciales............................................................................... 363
2.2. El salto cualitativo de la IA generativa y su capacidad de aportar textos complejos....................................................... 365
3. Algunas notas sobre el funcionamiento y los problemas del uso de la IA y su proyección en el ámbito jurídico................ 368
3.1. La aproximación probabilística como base del funcionamiento de la IA..................................................................... 368
3.2. La trascendencia y limitaciones de los datos pasados como fuente del modelo de IA........................................................ 370
3.3. Los bias o sesgos algorítmicos .............................................. 371
3.4. Los sesgos humanos ocultos y su proyección algorítmica.... 372
3.5. ¿Y qué hacemos con los datos sesgados?.............................. 374
4. La ironía de la automatización como riesgo en el uso de IA 375
5. A modo de conclusión: herramientas del presente y observaciones hacia el futuro de una tecnología en plena efervescencia............................................................................................... 376
6. Referencias..................................................................................... 378