Data protection for the prevention of algorithmic discrimination. Protecting from discrimination and other harms caused by algorithms through privacy in the EU and US: possibilities shortcomings and proposals

AGRADECIMIENTOS

PREFACIO

INTRODUCCIÓN

CAPÍTULO I
INTRODUCCIÓN A LA TOMA DE DECISIONES ALGORÍTMICA

1. Big data

1.1. Las tres V en big data

1.2. La necesidad de procesar macrodatos (sin procesar)

1.3. La cuarta V: valor

2. Herramientas y tecnologías de procesamiento de datos

2.1. Aprendizaje automático y minería de datos

2.2. Aprendizaje supervisado y no supervisado

2.3. Algoritmos y modelos

3. La aplicación de sistemas automatizados

3.1. El uso de algoritmos por parte del sector privado

3.1.1. Puntuación de individuos

3.1.1.1. El sector bancario y la expansión de los puntajes crediticios

3.1.1.2. Cuidado de la salud

3.1.1.3. Recursos humanos

3.1.2. Perfiles de consumidores y publicidad

3.2. El uso de algoritmos por parte del sector público

3.2.1. El uso de algoritmos en la gestión y prestación de servicios públicos

3.2.1.1. El uso de algoritmos en programas de asistencia y ayudas públicas

3.2.1.2. Automatización de los servicios públicos, programas de ayuda y bienestar y perpetuación de la desigualdad

3.2.2. El uso de algoritmos en la actividad reguladora y coercitiva de la administración pública: aplicación de la ley

3.2.2.1. Departamentos de policía y sistema de justicia penal

3.2.2.2. Otras aplicaciones algorítmicas en el ejercicio de competencias administrativas regulatorias y coercitivas

4. Tipos de toma de decisiones algorítmica

4.1. Sistemas automáticos y autónomos

4.2. Sistemas automatizados y semiautomatizados

4.3. Elaboración de perfiles y toma de decisiones automatizada: fines descriptivos, predictivos, de clasificación y recomendación

CAPÍTULO II
RIESGOS Y DAÑOS GENERADOS POR EL USO DE SISTEMAS AUTOMATIZADOS

1. Problemas y riesgos para la protección de los derechos de las personas sometidas a decisiones automatizadas

1.1. Sesgos y errores

1.1.1. Humanos sesgados y máquinas precisas

1.1.2. Medir el béisbol versus medir a los humanos

1.1.3. Sesgo humano y error de la máquina

1.1.4. La heurística tecnológica

1.2. Discriminación algorítmica

1.3. Riesgos para la dignidad: individualidad, autonomía y privacidad

1.4. Transparencia, debido proceso y trazabilidad

1.4.1. Transparencia

1.4.2. Justificación y comprensibilidad

1.4.3. Participación y debido proceso

1.4.4. Trazabilidad

2. La legitimidad y legalidad de la toma de decisiones pública automatizada

2.1. Transparencia y justificación de decisiones públicas

2.1.1. El ejercicio privado de tareas inherentemente públicas

3. Fallos del mercado e intervención en el sector privado

3.1.1. El principio de precaución

3.1.2. Fallos de mercado y otros problemas generados por el sector de servicios de datos

3.1.2.1. Externalidades negativas

3.1.2.2. Comportamiento monopolista

3.1.2.3. Información asimétrica, racionalidad imperfecta y costos de transacción

CAPÍTULO III
EL MARCO DE PRIVACIDAD DE LA INFORMACIÓN. ASPECTOS GENERALES

1. El marco de privacidad de la información como solución a los daños causados ??por los algoritmos

1.1. El derecho a la protección de datos como instrumento anti-clasificación

1.2. El derecho fundamental a la protección de datos

2. Tradiciones de privacidad de la UE y los EE. UU.

3. El ámbito de aplicación de las normas de privacidad de la información.

3.1. Anonimización

3.2. Seudonimización

3.3. Ámbito de aplicación del marco de protección de datos de la UE

4. Principios de privacidad

4.1. Principios del procesamiento de datos: licitud, equidad, transparencia, integridad y confidencialidad

4.2. Principio de recopilación de datos: limitación de la finalidad

4.3. Requisitos de almacenamiento y datos: minimización de datos, precisión y limitación de almacenamiento

CAPÍTULO IV
PROHIBICIONES DE ACCESO Y PROCESAMIENTO DE INFORMACIÓN

1. El enfoque estadounidense de la protección mediante prohibiciones de recopilación y procesamiento de datos

1.1. La Ley de Portabilidad y Responsabilidad del Seguro Médico

1.2. La Ley de Estadounidenses con Discapacidades

1.3. La Ley de No Discriminación por Información Genética

1.4. La Ley de Privacidad y Derechos Educativos de la Familia (FERPA)

1.5. La Ley de Informe Justo de Crédito (FCRA) y la Ley de Igualdad de Oportunidades Crediticias (ECOA)

2. Privacidad como antidiscriminación a través de prohibiciones generales en el RGPD

2.1. Procesamiento de categorías especiales de datos personales

2.1.1. Alcance de la prohibición

2.1.1.1. Ámbito de aplicación personal: operadores de motores de búsqueda

2.1.1.2. Ámbito de aplicación material: el problema del proxy

2.1.1.3. Soluciones para el problema de la discriminación por poder

2.1.2. Tratamiento de datos personales relacionados con condenas y delitos penales

2.2. El derecho (o prohibición general) a no estar sujeto a decisiones basadas únicamente en el procesamiento automatizado, incluida la elaboración de perfiles.

2.2.1. El derecho a no estar sujeto a una decisión basada únicamente en el procesamiento automatizado, incluida la elaboración de perfiles.

2.2.2. Excepciones al derecho (prohibición) reconocido en el artículo 22 y salvaguardias

2.2.3. Protecciones especiales para decisiones basadas únicamente en el procesamiento automatizado de categorías especiales de datos personales

2.2.4. Cuestiones planteadas en relación con el alcance del artículo 22.1

2.2.4.1. Decisiones basadas únicamente en el procesamiento automatizado

2.2.4.2. Efectos legales o significativamente similares

2.2.5. Análisis de las excepciones al derecho a no estar sujeto a una decisión basada únicamente en el procesamiento automatizado, incluida la elaboración de perfiles

2.2.5.1. Necesario para celebrar o ejecutar un contrato.

2.2.5.2. Autorizado por la legislación de la UE o de un estado miembro

2.2.5.3. El consentimiento explícito del interesado

2.2.5.4. Elementos adicionales que deben concurrir para aplicar las excepciones al tratamiento de categorías especiales de datos personales

3. Prohibiciones de la Directiva para la protección de datos personales en las fuerzas del orden y el sistema de justicia penal

3.1. Armonización y ámbito de aplicación

3.2. Tratamiento de categorías especiales de datos personales en el ámbito de la Directiva 2016/680

3.3. La prohibición de decisiones basadas únicamente en el procesamiento automatizado, incluida la elaboración de perfiles.

4. Deficiencias en las prohibiciones contenidas en el marco de protección de datos personales de la ue

CAPÍTULO V
DERECHO AL DEBIDO PROCESO TECNOLÓGICO

1. El enfoque de autodeterminación informativa

2. Transparencia: los derechos a la información, acceso y explicación

2.1. Derechos de información, acceso y explicación en el RGPD

2.1.1. El derecho a ser informado

2.1.1.1. Los fines previstos del procesamiento

2.1.1.2. Información significativa sobre la lógica involucrada, la importancia y las consecuencias previstas.

2.1.2. El derecho de acceso

2.1.3. El derecho a una explicación

2.1.3.1. Límites internos al derecho a explicación

2.1.3.2. Límites externos al derecho a explicación

i) El conflicto con los secretos comerciales y la propiedad intelectual

ii) Secretos de Estado e interés público

2.1.3.3. Cómo se puede hacer efectivo el derecho a la explicación

2.2. Derechos de información, acceso y explicación en la Directiva 2016/680 para la protección de datos en la aplicación de la ley: el conflicto con la seguridad pública y estatal

2.3. Derechos de información, acceso y explicación en los instrumentos regulatorios de EE. UU.

2.3.1. La ley de informes crediticios justos (FCRA)

2.3.2. La Ley de Privacidad del Consumidor de California (CCPA) y la Ley de Derechos de Privacidad de California (CPRA)

2.4. Algunas observaciones finales sobre el principio de transparencia y los derechos que se derivan de él

3. El derecho a ser oído y a impugnar las decisiones: el derecho a un recurso efectivo

3.1. El derecho a ser escuchado y a impugnar las decisiones en el GDPR

3.1.1. Los derechos de debido proceso de los interesados ??en el art. 22

3.1.1.1. El derecho a obtener la intervención humana

3.1.1.2. El derecho a expresar su punto de vista.

3.1.1.3. El derecho a impugnar la decisión

3.1.2. Derechos individuales a ser escuchados y a impugnar decisiones reconocidas fuera del artículo 22 del RGPD

3.1.2.1. Los derechos a la portabilidad, rectificación, supresión y limitación del tratamiento de los datos

3.1.2.2. El derecho a oponerse

3.1.2.3. El derecho a presentar denuncias ante las autoridades supervisoras y a recursos judiciales

3.2. El derecho a ser oído y a impugnar las decisiones de la Directiva 680/2016

3.3. Derechos a ser escuchados y a impugnar decisiones en los instrumentos regulatorios de EE. UU.

3.3.1. La ley de informes crediticios justos

3.3.2. La Ley de Privacidad del Consumidor de California y la Ley de Derechos de Privacidad de California

4. La necesidad de complementar los derechos tecnológicos al debido proceso con un sistema de supervisión y control algorítmico

CAPÍTULO VI
MECANISMOS REGULATORIOS PARA LA TRANSPARENCIA Y LA RENDICIÓN DE CUENTAS DEL SISTEMA A TRAVÉS DE LA PROTECCIÓN DE DATOS

1. Marcos regulatorios

1.1. Autorregulación

1.2. Corregulación (o autorregulación regulada)

1.3. Regulación (intervención estatal)

2. El RGPD como sistema de gobierno

3. Transparencia y rendición de cuentas del sistema

4. Herramientas regulatorias para la transparencia y la rendición de cuentas del sistema

4.1. Mecanismos de establecimiento de reglas

4.1.1. Escudos de seguridad y privacidad

4.1.2. Códigos de conducta

4.1.3. Estándares técnicos y organizativos

4.2. Mecanismos de control

4.2.1. Mecanismos de certificación

4.2.1.1. Asuntos Generales

4.2.1.2. Certificación en el GDPR

4.2.2. Evaluaciones de impacto de protección de datos

4.2.3. Recertificación, revisiones y auditorías de DPIA

4.3. Mecanismos de exigibilidad

4.3.1. Comités de ética y delegados de protección de datos

4.3.2. La Junta Europea de Protección de Datos y las Autoridades de Protección de Datos

4.3.3. Penaltis

CAPÍTULO VII
EL MARCO DE PRIVACIDAD: DEFICIENCIAS Y TENSIONES

1. Deficiencias generales del enfoque de privacidad

1.1. Las expectativas poco realistas de la anonimización

1.2. Los límites de la protección de datos personales

1.2.1. Perfiles de grupo

1.2.2. Datos resultantes

1.2.3. No centrarse en las variedades de procesamiento

2. Las deficiencias del enfoque de autodeterminación informativa

2.1. El mito del consentimiento y la paradoja de la privacidad

2.2. Información y cargas asimétricas

2.3. Creando inexactitudes sistémicas

2.4. La dificultad de detectar errores sistémicos

3. Los enfoques de privacidad no son apropiados para el uso de algoritmos por parte del sector público.

3.1. Límites del sector privado a la transparencia de los algoritmos utilizados por organismos públicos

3.1.1. La propiedad intelectual y el “vínculo social energético” español

3.1.2. Tribunales administrativos que otorgan transparencia

3.2. Prohibición del uso de algoritmos en el sector público: el caso holandés "SyRI"

3.3. El carácter regulatorio de los algoritmos empleados por las administraciones públicas

3.3.1. Los algoritmos utilizados por las administraciones públicas son instrumentos legales

3.3.2. Los algoritmos son instrumentos regulatorios

3.3.2.1. Propuestas que rechazan el carácter regulatorio de los algoritmos

3.3.2.2. Tribunal administrativo de Lazio-Roma, sentencia núm. 3769

3.3.2.3. Toma de decisiones semiautomatizada, no vinculante y exclusivamente automatizada

3.3.2.4. La importancia de reconocer la naturaleza reguladora de los algoritmos

3.3.3. El principio de legalidad debe aplicarse al uso público de algoritmos

3.3.4. Fricciones entre la regulación tradicional y algorítmica

4. Las deficiencias de los mecanismos de rendición de cuentas

5. La relación entre protección de datos personales, igualdad y no discriminación

5.1. El dilema de la privacidad frente a la antidiscriminación

5.1.1. Menos información puede llevar a inferencias erróneas

5.1.2. La anticlasificación no evita la discriminación algorítmica indirecta

5.1.3. La anti-clasificación a través de la privacidad no resuelve la desventaja del grupo y puede reforzarla

5.2. Combinar los marcos de protección de datos y de lucha contra la discriminación

CAPÍTULO VIII
POSIBILIDADES Y PROPUESTAS PARA LA REGULACIÓN DE ALGORITMOS

1. Compensaciones en la regulación de algoritmos

2. La necesidad de una mayor transparencia algorítmica

3. Un sistema de intervención pública para controlar algoritmos

3.1. Opciones organizativas

3.1.1. Integración del control algorítmico

3.1.2. Creación de un grupo de trabajo u organismo de supervisión no independiente

3.1.3. Una agencia de supervisión independiente

3.2. Aprobación de algoritmos de mercado basada en riesgos

3.2.1. El sistema de tres (más dos) niveles

3.2.1.1. Sistemas algorítmicos prohibidos

3.2.1.2. Sistemas algorítmicos de alto riesgo

i) Pruebas administrativas, documentación y requisitos de explicación general.

ii) Requisitos de justificación y explicabilidad

iii) El análisis de proporcionalidad de las autorizaciones previas a la comercialización

iv) Requisitos específicos para los algoritmos del sector público incluidos en esta categoría

3.2.1.3. Sistemas algorítmicos de riesgo medio

3.2.1.4. Sistemas algorítmicos de bajo riesgo

3.2.1.5. Sistemas algorítmicos sin riesgo

3.2.2. Aplicación del sistema

3.3. La contratación pública como mecanismo para prevenir los riesgos del uso público y privado de algoritmos

3.4. Establecimiento de un régimen de "mejores técnicas disponibles"

3.5. Usar algoritmos para detectar discriminación

3.6. Empoderar a las personas a través de información comprensible: arquitecturas de elección

3.7. Mayor comunicación entre disciplinas y establecimiento de principios generales sobre los cuales construir sistemas automatizados.

CONCLUSIONES

BIBLIOGRAFÍA