Clasificamos sus sistemas de IA conforme al Reglamento (UE) 2024/1689, elaboramos la documentación técnica y el sistema de gestión de la calidad que exige y ponemos a prueba sus modelos frente a los ataques que enumera el artículo 15.
Para
Recibe
El Reglamento de IA se articula en torno a la clasificación. El artículo 5 enumera las prácticas prohibidas, como crear bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales o inferir emociones en el lugar de trabajo y en centros educativos salvo por motivos médicos o de seguridad. Un sistema de IA es de alto riesgo con arreglo al artículo 6, apartado 1, cuando es componente de seguridad de un producto, o es en sí mismo un producto, regulado por los actos enumerados en el anexo I y ese producto debe someterse a una evaluación de la conformidad de terceros. Lo es con arreglo al artículo 6, apartado 2, cuando corresponde a un caso de uso del anexo III. Como excepción, el artículo 6, apartado 3, excluye un sistema del anexo III cuando no plantea un riesgo importante de perjuicio, por ejemplo porque solo realiza una tarea de procedimiento limitada o una tarea preparatoria. La excepción nunca se aplica a los sistemas que elaboran perfiles de personas físicas, y el proveedor debe documentar su evaluación antes de la introducción en el mercado o la puesta en servicio, y registrar el sistema (artículo 6, apartado 4, y artículo 49, apartado 2).
El punto 1 del anexo III muestra por qué importa la precisión. Incluye los sistemas de identificación biométrica remota, pero no la verificación biométrica cuya única finalidad sea confirmar que una persona física concreta es la persona que afirma ser. Incluye también la categorización biométrica en función de atributos o características sensibles o protegidos y el reconocimiento de emociones. Un sistema de alto riesgo debe cumplir los artículos 9 a 15: gestión de riesgos, datos y gobernanza de datos, documentación técnica con al menos el contenido del anexo IV, conservación de registros, transparencia y comunicación de información a los responsables del despliegue, supervisión humana, y precisión, solidez y ciberseguridad. El proveedor necesita además un sistema de gestión de la calidad conforme al artículo 17. El artículo 15, apartado 5, enumera los ataques específicos de la IA que deben abordar las medidas técnicas, según corresponda: envenenamiento de datos, envenenamiento de modelos, ejemplos adversarios o evasión de modelos, ataques a la confidencialidad y defectos en el modelo.
La evaluación de la conformidad se rige por el artículo 43. Los puntos 2 a 8 del anexo III siguen el procedimiento de control interno (anexo VI). Para los sistemas biométricos del punto 1, el control interno solo es posible si el proveedor ha aplicado normas armonizadas o especificaciones comunes; en caso contrario, un organismo notificado evalúa el sistema de gestión de la calidad y la documentación técnica (anexo VII). Los sistemas del artículo 6, apartado 1, de la sección A del anexo I siguen el procedimiento de su legislación sectorial (artículo 43, apartado 3). ISO/IEC 42001 ayuda a organizar el sistema de gestión, pero la certificación conforme a ella no otorga presunción de conformidad: según el artículo 40, solo la otorgan las normas armonizadas publicadas en el Diario Oficial. Cuando un sistema de IA de alto riesgo es también un producto con elementos digitales sujeto al Reglamento de Ciberresiliencia, cumplir sus requisitos esenciales, demostrando en la declaración UE de conformidad el nivel de protección del artículo 15, implica que se considera conforme con la parte de ciberseguridad del artículo 15, no con sus requisitos de precisión y solidez (artículo 12 del Reglamento de Ciberresiliencia, recogido también en el artículo 42, apartado 3, del Reglamento de IA, introducido por el Reglamento (UE) 2026/1744). Por regla general, la evaluación sigue entonces el artículo 43 del Reglamento de IA.
Un inventario de sus sistemas de IA, cada uno analizado frente al artículo 5, el artículo 6, apartado 1, y el anexo I, y el anexo III. Recoge su papel como proveedor o responsable del despliegue, cualquier supuesto del artículo 25, el razonamiento del artículo 6, apartado 3, redactado con el rigor que exige el apartado 4, y el posible solapamiento con el Reglamento de Ciberresiliencia.
Duración habitual: De 2 a 4 semanas
Una revisión requisito por requisito de su gestión de riesgos, gobernanza de datos, registros, instrucciones de uso, supervisión humana, precisión, solidez y ciberseguridad, y sistema de gestión de la calidad, con un plan de corrección priorizado y asignado a equipos concretos.
Duración habitual: De 3 a 6 semanas
Un expediente estructurado que cubre todos los puntos del anexo IV, desde la descripción general y el proceso de desarrollo hasta la validación y las pruebas, las medidas de ciberseguridad, el sistema de gestión de riesgos y el plan de vigilancia poscomercialización. Para los productos de la sección A del anexo I, se elabora como el conjunto único de documentación que exige el artículo 11, apartado 2.
Duración habitual: De 6 a 12 semanas
Un modelo de amenazas y un plan de pruebas frente al envenenamiento de datos y de modelos, la evasión de modelos, los ataques a la confidencialidad y los defectos en el modelo, junto con la seguridad del sistema que lo rodea. Diseñamos el plan de pruebas y podemos ejecutarlas nosotros; cuando un cliente o ETSI TS 119 461 exige un laboratorio acreditado, nos coordinamos con el laboratorio que usted elija y vinculamos sus resultados con el artículo 15 y el anexo IV.
Duración habitual: De 4 a 8 semanas
Un sistema de gestión de la IA diseñado para que sus procesos cubran también los aspectos de gestión de la calidad del artículo 17, con políticas, procedimientos, registros y auditoría interna, listo para la auditoría del organismo de certificación que usted elija.
Duración habitual: De 3 a 6 meses
Elección del procedimiento del artículo 43, borrador de la declaración UE de conformidad, contenido del registro y preparación para el organismo notificado cuando lo exijan el anexo VII o la legislación sectorial.
Duración habitual: De 4 a 8 semanas
Para un sistema que no es de alto riesgo, un informe razonado de clasificación que usted pueda defender ante sus clientes y ante la autoridad de vigilancia del mercado. Si un sistema del anexo III se acoge al artículo 6, apartado 3, el informe es la evaluación que exige el apartado 4 e incluye el contenido para el registro del artículo 49, apartado 2. Se acompaña del paquete de evidencias que sus clientes piden como responsables del despliegue y, en el caso de los bancos, de la información que necesitan para las comprobaciones debidas sobre proveedores terceros de servicios de TIC conforme al artículo 28, apartado 4, del Reglamento (UE) 2022/2554 (DORA).
Duración habitual: De 2 a 4 semanas
Hay que revisar dos vías. Según el artículo 6, apartado 1, es de alto riesgo si es componente de seguridad de un producto, o es en sí mismo un producto, regulado por los actos del anexo I y ese producto requiere una evaluación de la conformidad de terceros. La IA utilizada únicamente para aspectos no relacionados con la seguridad, como la asistencia al usuario, la optimización del rendimiento o la comodidad, no es componente de seguridad, salvo que su fallo o defecto de funcionamiento pueda poner en peligro la salud y la seguridad (artículo 6, apartados 1 bis y 1 ter, introducidos por el Reglamento (UE) 2026/1744). Según el artículo 6, apartado 2, es de alto riesgo si corresponde a un caso de uso del anexo III, salvo que se aplique la excepción del apartado 3. Los sistemas del anexo III que elaboran perfiles de personas físicas son siempre de alto riesgo.
No como identificación biométrica remota. El anexo III, punto 1, letra a), excluye los sistemas de IA destinados a la verificación biométrica cuya única finalidad sea confirmar que una persona física concreta es la persona que afirma ser, como confirmar la identidad para desbloquear un dispositivo o acceder a un servicio. La exclusión es estricta: el mismo producto puede seguir siendo de alto riesgo si además realiza categorización biométrica por atributos sensibles o protegidos o reconocimiento de emociones, o si encaja en el artículo 6, apartado 1.
En un sistema biométrico de alto riesgo, el artículo 15, apartado 5, exige que sea resistente a los intentos de terceros no autorizados de alterar su uso, sus resultados de salida o su funcionamiento aprovechando vulnerabilidades del sistema. En la verificación facial y la detección de vida, los ataques de presentación ante la cámara y los ataques de inyección en el proceso de captura son exactamente eso. Vinculamos los resultados de las pruebas de detección de ataques de presentación conforme a ISO/IEC 30107-3 y de detección de ataques de inyección conforme a CEN/TS 18099 con el artículo 15 y el anexo IV, y los estructuramos para que la misma evidencia responda a las revisiones de seguridad de sus clientes bancarios. ETSI TS 119 461, la especificación de verificación de la identidad para servicios de confianza, hace referencia a ambos documentos y exige que un laboratorio acreditado pruebe esa detección. Si el producto solo realiza verificación biométrica y no es de alto riesgo, el artículo 15 no es una obligación legal, pero la misma evidencia sigue respondiendo a las preguntas de sus clientes. Las cuestiones de protección de datos, como las condiciones del artículo 9 del RGPD para tratar datos biométricos o la evaluación de impacto del artículo 35, quedan fuera de nuestro alcance; nos coordinamos con sus asesores de protección de datos.
Como mínimo: una descripción general del sistema y su finalidad prevista; una descripción detallada de sus elementos y de su desarrollo, incluidos los componentes entrenados previamente, las decisiones de diseño, la arquitectura, los datos, la supervisión humana, la validación y las pruebas, y las medidas de ciberseguridad; información sobre la vigilancia, el funcionamiento y el control; la idoneidad de las métricas de rendimiento; el sistema de gestión de riesgos; los cambios a lo largo del ciclo de vida; las normas armonizadas aplicadas o las soluciones alternativas adoptadas; una copia de la declaración UE de conformidad, y el plan de vigilancia poscomercialización. Debe elaborarse antes de la introducción en el mercado y mantenerse actualizada (artículo 11). Las pymes pueden usar el formulario simplificado de la Comisión, y el Reglamento (UE) 2026/1744 extendió esa opción a las pequeñas empresas de mediana capitalización (artículo 11, apartado 1).
Los sistemas de IA de alto riesgo deben ser resistentes a los intentos de terceros no autorizados de alterar su uso, sus resultados de salida o su funcionamiento aprovechando vulnerabilidades, con medidas adecuadas a las circunstancias y los riesgos. Según corresponda, incluyen medidas para prevenir, detectar, combatir, resolver y controlar el envenenamiento de datos y de modelos, los ejemplos adversarios o la evasión de modelos, los ataques a la confidencialidad y los defectos en el modelo. El artículo 42, apartado 2, presume la conformidad con estos requisitos de los sistemas que cuenten con un certificado o una declaración de conformidad con arreglo a un esquema de ciberseguridad del Reglamento (UE) 2019/881 cuyas referencias estén publicadas en el Diario Oficial, en la medida en que el certificado o la declaración los cubran.
No. ISO/IEC 42001 es una norma de sistemas de gestión y una buena forma de organizar la gobernanza de la IA y el sistema de gestión de la calidad del artículo 17. Según el artículo 40, la presunción de conformidad solo procede de normas armonizadas cuyas referencias se publican en el Diario Oficial, y la certificación ISO/IEC 42001 no la otorga. Sigue necesitando la documentación del anexo IV, los requisitos de producto de los artículos 9 a 15 y la evaluación de la conformidad del artículo 43.
La mayoría de las prohibiciones del artículo 5 se aplican desde el 2 de febrero de 2025, y las obligaciones de los proveedores de modelos de IA de uso general desde el 2 de agosto de 2025. Según el artículo 113, modificado por el Reglamento (UE) 2026/1744, las reglas de clasificación y los requisitos y obligaciones de los sistemas de alto riesgo (capítulo III, secciones 1 a 3) se aplican a partir del 2 de diciembre de 2027 para los sistemas del anexo III y del 2 de agosto de 2028 para los del artículo 6, apartado 1.