Comentarios al Reglamento Europeo de Inteligencia Artificial

Abreviaturas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
Prólogo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
Estudio preliminar: el Reglamento Europeo de Inteligencia Artificial y su
regulación en condiciones de permanente adaptación a los riesgos y a la
evolución de los modelos y sistemas de IA de uso general . . . . . . . . . . . . 23
Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de
13 de junio de 2024, por el que se establecen normas armonizadas en
materi a d e inteligenci a artificia l y po r e l que s e modifican los Reglamentos
(CE) n.° 300/2008, (UE) n.° 167/2013, (UE) . . . . . . . . . . . . . . . . . . . . . . . 49
Disposiciones generales . . . . . . . . . . . . . . . . . . . . . . . . . . . 135
Objeto . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 135
Ámbito de aplicación. . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
Definiciones. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
Alfabetización en materia de IA . . . . . . . . . . . . . . . . . . . . 172
Prácticas de IA prohibidas. . . . . . . . . . . . . . . . . . . . . . . . . 180
Prácticas de IA prohibidas . . . . . . . . . . . . . . . . . . . . . . . . 180
Sistemas de IA de alto riesgo . . . . . . . . . . . . . . . . . . . . . . 205
Clasificación de los sistemas de IA como sistemas de alto riesgo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205
Reglas de clasificación de los sistemas de IA de alto
riesgo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205
Modificaciones del anexo III . . . . . . . . . . . . . . . . . . . . 223
Requisitos de los sistemas de IA de alto riesgo . . . . . . . . 227
Cumplimiento de los requisitos . . . . . . . . . . . . . . . . . . 227
Sistema de gestión de riesgos . . . . . . . . . . . . . . . . . . . 244
Datos y gobernanza de datos . . . . . . . . . . . . . . . . . . 264
Documentación técnica . . . . . . . . . . . . . . . . . . . . . . 273
Conservación de registros . . . . . . . . . . . . . . . . . . . . . 283
Transparencia y comunicación de información a los
responsables del despliegue . . . . . . . . . . . . . . . . . . . . . . . . . . . 292
Supervisión humana . . . . . . . . . . . . . . . . . . . . . . . . . 299
Precisión, solidez y ciberseguridad . . . . . . . . . . . . . . 306
5
Sección 3
Artículo 16
Artículo 17
Artículo 18
Artículo 19
Artículo 20
Artículo 21
Artículo 22
Artículo 23
Artículo 24
Artículo 25
Artículo 26
Artículo 27
Sección 4
Artículo 28
Artículo 29
Artículo 30
Artículo 31
Artículo 32
Artículo 33
Artículo 34
Artículo 35
Artículo 36
Artículo 37
Artículo 38
Artículo 39
Sección 5
Artículo 40
Artículo 41
Artículo 42
Artículo 43
Obligaciones de los proveedores y responsables del
despliegue de sistemas de IA de alto riesgo y de otras partes. . . . 311
Obligaciones de los proveedores de sistemas de IA
de alto riesgo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 311
Sistema de gestión de la calidad . . . . . . . . . . . . . . . . 315
Conservación de la documentación . . . . . . . . . . . . . 323
Archivos de registro generados automáticamente . . . 332
Medidas correctoras y obligación de información . . . 338
Cooperación con las autoridades competentes . . . . . 342
Representantes autorizados de los proveedores de
sistemas de IA de alto riesgo. . . . . . . . . . . . . . . . . . . . . . . . . . . 352
Obligaciones de los importadores . . . . . . . . . . . . . . . 359
Obligaciones de los distribuidores. . . . . . . . . . . . . . . 367
Responsabilidades a lo largo de la cadena de valor
de la IA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 374
Obligaciones de los responsables del despliegue de
sistemas de IA de alto riesgo. . . . . . . . . . . . . . . . . . . . . . . . . . . 381
Evaluación de impacto relativa a los derechos fundamentales para los sistemas de IA de alto riesgo. . . . . . . . . . . . . 399
Autoridades notificantes y organismos notificados . . . . . 407
Autoridades notificantes . . . . . . . . . . . . . . . . . . . . . . 407
Solicitud de notificación por parte de un organismo
de evaluación de la conformidad . . . . . . . . . . . . . . . . . . . . . . . 417
Procedimiento de notificación. . . . . . . . . . . . . . . . . . 420
Requisitos relativos a los organismos notificados. . . . 424
Presunción de conformidad con los requisitos relativos a los organismos notificados . . . . . . . . . . . . . . . . . . . . . . . 430
Filiales de organismos notificados y subcontratación. 434
Obligaciones operativas de los organismos notificados. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 438
Números de identificación y listas de organismos notificados . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 441
Cambios en las notificaciones . . . . . . . . . . . . . . . . . . 442
Cuestionamiento de la competencia de los organismos notificados . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 448
Coordinación de los organismos notificados . . . . . . . 450
Organismos de evaluación de la conformidad de terceros países . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 453
Normas, evaluación de la conformidad, certificados, registro. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 457
Normas armonizadas y documentos de normalización . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 457
Especificaciones comunes . . . . . . . . . . . . . . . . . . . . . 463
Presunción de conformidad con determinados requisitos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 469
Evaluación de la conformidad . . . . . . . . . . . . . . . . . . 472
Sumario
6
Artículo 44
Artículo 45
Artículo 46
Artículo 47
Artículo 48
Artículo 49
Capítulo IV
Artículo 50
Capítulo V
Sección 1
Artículo 51
Artículo 52
Sección 2
Artículo 53
Artículo 54
Sección 3
Artículo 55
Sección 4
Artículo 56
Capítulo VI
Artículo 57
Artículo 58
Artículo 59
Artículo 60
Artículo 61
Artículo 62
Certificados . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 480
Obligaciones de información de los organismos notificados . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 484
Exención del procedimiento de evaluación de la
conformidad. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 488
Declaración UE de conformidad . . . . . . . . . . . . . . . . 493
Marcado CE . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 497
Registro . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 502
Obligaciones de transparencia de los proveedores y responsables del despliegue de determinados sistemas de IA . . . . . . . . 513
Obligaciones de transparencia de los proveedores y responsables del despliegue de determinados sistemas de IA. . . . . . . 513
Modelos de IA de uso general . . . . . . . . . . . . . . . . . . . . . . 524
Reglas de clasificación. . . . . . . . . . . . . . . . . . . . . . . . . . 524
Reglas de clasificación de los modelos de IA de uso
general como modelos de IA de uso general con riesgo sistémico. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 524
Procedimiento. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 537
Obligaciones de los proveedores de modelos de IA de
uso general . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 545
Obligaciones de los proveedores de modelos de IA
de uso general . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 545
Representantes autorizados de los proveedores de
modelos de IA de uso general . . . . . . . . . . . . . . . . . . . . . . . . . 558
Obligaciones de los proveedores de modelos de IA de
uso general con riesgo sistémico . . . . . . . . . . . . . . . . . . . . . . . . . 568
Obligaciones de los proveedores de modelos de IA
de uso general con riesgo sistémico . . . . . . . . . . . . . . . . . . . . . 568
Códigos de buenas prácticas . . . . . . . . . . . . . . . . . . . . . 582
Códigos de buenas prácticas . . . . . . . . . . . . . . . . . . . 582
Medidas de apoyo a la innovación . . . . . . . . . . . . . . . . . 594
Espacios controlados de pruebas para la IA . . . . . . . . . . 594
Disposiciones detalladas relativas a los espacios controlados de pruebas para la IA y al funcionamiento de dichos espacios . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 603
Tratamiento ulterior de datos personales para el desarrollo de determinados sistemas de IA en favor del interés público en
el espacio controlado de pruebas para la IA . . . . . . . . . . . . . . . . . 609
Pruebas de sistemas de IA de alto riesgo en condiciones
reales fuera de los espacios controlados de pruebas para la IA . . . 615
Consentimiento informado para participar en pruebas en
condiciones reales fuera de los espacios controlados de pruebas
para la IA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 622
Medidas dirigidas a proveedores y responsables del despliegue, en particular pymes, incluidas las empresas emergentes . 626
Sumario
7
Artículo 63
Capítulo VII
Sección 1
Artículo 64
Artículo 65
Artículo 66
Artículo 67
Artículo 68
Artículo 69
Sección 2
Artículo 70
Capítulo VIII
Artículo 71
Capítulo IX
Sección 1
Artículo 72
Sección 2
Artículo 73
Sección 3
Artículo 74
Artículo 75
Artículo 76
Artículo 77
Artículo 78
Artículo 79
Artículo 80
Artículo 81
Artículo 82
Artículo 83
Artículo 84
Sección 4
Excepciones para operadores específicos . . . . . . . . . . . . 632
Gobernanza . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 636
Gobernanza a escala de la Unión . . . . . . . . . . . . . . . . . 636
Oficina de IA. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 636
Creación y estructura del Consejo Europeo de Inteligencia Artificial . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 643
Funciones del Consejo de IA . . . . . . . . . . . . . . . . . . . 648
Foro consultivo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 653
Grupo de expertos científicos independientes . . . . . . 656
Acceso a expertos por parte de los Estados miembros 662
Autoridades nacionales competentes . . . . . . . . . . . . . . . 664
Designación de las autoridades nacionales competentes y de los puntos de contacto único . . . . . . . . . . . . . . . . . 664
Base de datos de la UE para sistemas de IA de alto riesgo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 673
Base de datos de la UE para los sistemas de IA de alto
riesgo enumerados en el ANEXO III . . . . . . . . . . . . . . . . . . . . . . . 673
Vigilancia poscomercialización, intercambio de información y vigilancia del mercado . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 681
Vigilancia poscomercialización . . . . . . . . . . . . . . . . . . . 681
Vigilancia poscomercialización por parte de los proveedores y plan de vigilancia poscomercialización para sistemas de IA de alto riesgo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 681
Intercambio de información sobre incidentes graves . . . 687
Notificación de incidentes graves . . . . . . . . . . . . . . . 687
Garantía del cumplimiento . . . . . . . . . . . . . . . . . . . . . . 697
Vigilancia del mercado y control de los sistemas de
IA en el mercado de la Unión . . . . . . . . . . . . . . . . . . . . . . . . . 697
Asistencia mutua, vigilancia del mercado y control
de sistemas de IA de uso general . . . . . . . . . . . . . . . . . . . . . . . 710
Supervisión de las pruebas en condiciones reales por
las autoridades de vigilancia del mercado . . . . . . . . . . . . . . . . 716
Poderes de las autoridades encargadas de proteger
los derechos fundamentales . . . . . . . . . . . . . . . . . . . . . . . . . . . 721
Confidencialidad. . . . . . . . . . . . . . . . . . . . . . . . . . . . 726
Procedimiento aplicable a escala nacional a los sistemas de IA que presenten un riesgo . . . . . . . . . . . . . . . . . . . . . . 733
Procedimiento aplicable a los sistemas de IA clasificados por el proveedor como no de alto riesgo en aplicación
del anexo III . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 741
Procedimiento de salvaguardia de la Unión . . . . . . . 745
Sistemas de IA conformes que presenten un riesgo . . 749
Incumplimiento formal . . . . . . . . . . . . . . . . . . . . . . . 753
Estructuras de apoyo a los ensayos de la IA de la UE. 756
Vías de recurso . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 767
Sumario
8
Artículo 85
Artículo 86
Artículo 87
Sección 5
Artículo 88
Artículo 89
Artículo 90
Artículo 91
Artículo 92
Artículo 93
Artículo 94
Capítulo X
Artículo 95
Artículo 96
Capítulo XI
Artículo 97
Artículo 98
Capítulo XII
Artículo 99
Artículo 100
Artículo 101
Capítulo XIII
Artículo 102
Artículo 103
Artículo 104
Artículo 105
Artículo 106
Artículo 107
Artículo 108
Artículo 109
Artículo 110
Artículo 111
Artículo 112
Artículo 113
Derecho a presentar una reclamación ante una autoridad de vigilancia del mercado . . . . . . . . . . . . . . . . . . . . . . . . 767
Derecho a explicación de decisiones tomadas individualmente . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 774
Denuncia de infracciones y protección de los denunciantes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 780
Supervisión, investigación, cumplimiento y seguimiento
respecto de proveedores de modelos de IA de uso general . . . . . 784
Cumplimiento de las obligaciones de los proveedores de modelos de IA de uso general . . . . . . . . . . . . . . . . . . . . 784
Medidas de seguimiento . . . . . . . . . . . . . . . . . . . . . . 791
Alertas del grupo de expertos científicos sobre riesgos sistémicos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 797
Poderes para solicitar documentación e información 804
Poderes para realizar evaluaciones . . . . . . . . . . . . . . 809
Poderes para solicitar la adopción de medidas . . . . . 813
Garantías procesales de los operadores económicos
del modelo de IA de uso general . . . . . . . . . . . . . . . . . . . . . . . 816
Códigos de conducta y directrices. . . . . . . . . . . . . . . . . . . 819
Códigos de conducta para la aplicación voluntaria de
requisitos específicos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 819
Directrices de la Comisión sobre la aplicación del presente Reglamento . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 823
Delegación de poderes y procedimiento de comité . . . . . 828
Ejercicio de la delegación . . . . . . . . . . . . . . . . . . . . . . . 828
Procedimiento de comité . . . . . . . . . . . . . . . . . . . . . . . . 832
Sanciones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 835
Sanciones. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 835
Multas administrativas a instituciones, órganos y organismos de la Unión . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 844
Multas a proveedores de modelos de IA de uso general 848
Disposiciones finales . . . . . . . . . . . . . . . . . . . . . . . . . . . 851
Modificación del Reglamento (CE) n.o
 300/2008 . . . . . 851
Modificación del Reglamento (UE) n.o
 167/2013 . . . . . 853
Modificación del Reglamento (UE) n.o
 168/2013 . . . . . 854
Modificación de la Directiva 2014/90/UE . . . . . . . . . . 856
Modificación de la Directiva (UE) 2016/797 . . . . . . . . 857
Modificación del Reglamento (UE) 2018/858. . . . . . . . 859
Modificación del Reglamento (UE) 2018/1139. . . . . . . 860
Modificación del Reglamento (UE) 2019/2144. . . . . . . 862
Modificación de la Directiva (UE) 2020/1828 . . . . . . . 864
Sistemas de IA ya introducidos en el mercado o puestos en servicio y modelos de IA de uso general ya introducidos en
el mercado . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 867
Revisión y evaluación . . . . . . . . . . . . . . . . . . . . . . . . . 872
Entrada en vigor y aplicación . . . . . . . . . . . . . . . . . . . . 883
Sumario
9
Anexo I
Sección A.
Sección B.
Anexo II
Anexo III
Anexo IV
Anexo V
Anexo VI
Anexo VII
Anexo VIII
Sección A.
Sección B.
Sección C.
Anexo IX
Anexo X
1.
2.
3.
4.
5.
6.
7.
Anexo XI
Lista de actos legislativos de armonización de la Unión . . . . 887
Lista de actos legislativos de armonización de la Unión
basados en el nuevo marco legislativo . . . . . . . . . . . . . . . . . . . . . 887
Lista de otros actos legislativos de armonización de la
Unión . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 888
Lista de los delitos a que se refiere el artículo 5, apartado 1,
párrafo primero, letra h), inciso iii). . . . . . . . . . . . . . . . . . . . . . . . . . 901
Sistemas de IA de alto riesgo a que se refiere el artículo 6,
apartado 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 906
Documentación técnica a que se refiere el artículo 11,
apartado 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 933
Declaración UE de conformidad . . . . . . . . . . . . . . . . . . . . . 944
Procedimiento de evaluación de la conformidad fundamentado en un control interno . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 949
Conformidad fundamentada en la evaluación del sistema
de gestión de la calidad y la evaluación de la documentación técnica. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 955
Información que debe presentarse para la inscripción en
el registro de sistemas de IA de alto riesgo de conformidad con el
artículo 49 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 963
Información que deben presentar los proveedores de sistemas de IA de alto riesgo de conformidad con el artículo 49,
apartado 1. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 963
Información que deben presentar los proveedores de sistemas de IA de alto riesgo de conformidad con el artículo 49,
apartado 2. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 964
Información que deben presentar los responsables del
despliegue de sistemas de IA de alto riesgo de conformidad con el
artículo 49, apartado 3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 965
Información que debe presentarse para la inscripción en el
registro de los sistemas de IA de alto riesgo enumerados en el anexo
III en relación con las pruebas en condiciones reales de conformidad con el artículo 60 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 975
Actos legislativos de la Unión relativos a sistemas informáticos de gran magnitud en el espacio de libertad, seguridad y justicia 985
Sistema de Información de Schengen . . . . . . . . . . . . . . . . . . . . . . 985
Sistema de Información de Visados. . . . . . . . . . . . . . . . . . . . . . . . 986
Eurodac. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 986
Sistema de Entradas y Salidas . . . . . . . . . . . . . . . . . . . . . . . . . . . . 986
Sistema Europeo de Información y Autorización de Viajes . . . . . . 987
Sistema Europeo de Información de Antecedentes Penales en relación con los nacionales de terceros países y apátridas . . . . . . . . . 987
Interoperabilidad. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 987
Documentación técnica a que se refiere el artículo 53,
apartado 1, letra a) - documentación técnica para proveedores de
modelos de IA de uso general . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 993
Sumario
10
Sección 1.
Sección 2.
Anexo XII
Anexo XIII
Información que deben presentar los proveedores de modelos de IA de uso general . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 993
Información adicional que deben presentar los proveedores de modelos de IA de uso general con riesgo sistémico. . . . . . . 994
Información sobre transparencia a que se refiere el artículo
53, apartado 1, letra b) - documentación técnica de los proveedores
de modelos de IA de uso general para los proveedores posteriores
que integren el modelo en su sistema de IA . . . . . . . . . . . . . . . . . . . 1007
Criterios para la clasificación de los modelos de IA de uso
general con riesgo sistémico a que se refiere el artículo 51 . . . . . . . 1017
Concordancias del articulado con los considerandos . . . . . . . . . . . . . . . . 1031
Desarrollo y ejecución del RIA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1053