MadridBarcelonainfo@velardevidal.com
Firma Legal & Tax
España · desde 2023
V&V Velarde & VidalLegal & Tax
Inicio · Recursos · Análisis · Clasificación de sistemas de IA por riesgo: análisis para empresas
Protección de datos y compliance

Clasificación de sistemas de IA por riesgo: análisis para empresas

Por Sergio Lozano, Colaborador · Protección de datos y complianceActualizado:

El Reglamento Europeo de Inteligencia Artificial ha transformado el panorama del cumplimiento normativo para cualquier empresa que desarrolle, importe, distribuya o utilice sistemas de inteligencia artificial en el mercado interior de la Unión Europea. La norma no trata todos los sistemas por igual. Impone una arquitectura de obligaciones escalonada en función del nivel de riesgo que cada sistema representa para la seguridad, los derechos fundamentales y los intereses de las personas afectadas. Quien no comprenda esa clasificación antes de que su empresa quede sujeta a ella asumirá cargas regulatorias innecesarias o, peor aún, infringirá obligaciones de alto impacto sin saberlo.

En breve: La clasificación de sistemas de inteligencia artificial por nivel de riesgo es el eje central del Reglamento de Inteligencia Artificial de la Unión Europea. Determina las obligaciones de cada empresa según si opera con sistemas prohibidos, de alto riesgo, de riesgo limitado o de riesgo mínimo, en el marco de la normativa de protección de datos y compliance. El incumplimiento puede derivar en sanciones de magnitud considerable y en responsabilidad directa de los administradores.

¿Qué arquitectura de riesgo establece el Reglamento Europeo de Inteligencia Artificial?

El Reglamento de Inteligencia Artificial de la Unión Europea articula cuatro niveles de riesgo. Cada nivel arrastra un conjunto diferente de obligaciones para los operadores económicos que intervienen en la cadena de valor del sistema: proveedores, importadores, distribuidores y usuarios profesionales (denominados en la norma «desplegadores»).

El primer nivel recoge las prácticas de inteligencia artificial prohibidas. Son sistemas cuyo uso queda vedado en la Unión Europea con carácter absoluto o sujeto a condiciones muy estrictas. El Reglamento enumera categorías que atentan de forma inaceptable contra derechos fundamentales: sistemas de puntuación social de personas físicas aplicados por poderes públicos, técnicas de manipulación subliminal que explotan vulnerabilidades del individuo, e identificación biométrica remota en tiempo real en espacios de acceso público salvo excepciones tasadas. Una empresa que integre alguno de estos sistemas en su operativa, aunque proceda de un proveedor externo, no está exenta de responsabilidad.

El segundo nivel, de mayor relevancia para la empresa ordinaria, es el de los sistemas de alto riesgo. Aquí se concentran las obligaciones más exigentes: evaluación de conformidad, documentación técnica exhaustiva, registro en la base de datos europea, sistema de gestión de calidad y, en muchos casos, supervisión humana obligatoria. Las categorías incluyen, entre otras, sistemas de IA utilizados en infraestructuras críticas, en gestión de acceso a la educación o al empleo, en evaluación de solvencia crediticia y en administración de justicia.

En nuestra práctica hemos observado que muchas empresas medianas subestiman su posición en esta categoría. Un sistema de selección automatizada de candidatos, una herramienta de puntuación crediticia integrada en un software de tesorería o un módulo de evaluación de rendimiento laboral pueden caer en el ámbito de alto riesgo sin que la dirección lo haya advertido durante la fase de adquisición del software.

El tercer nivel abarca los sistemas de riesgo limitado. Están sujetos principalmente a obligaciones de transparencia frente al usuario: deben informar de que éste interactúa con un sistema de IA. Los chatbots de atención al cliente y los sistemas de generación de contenido sintético son ejemplos prototípicos. El incumplimiento de la obligación de transparencia, aunque las consecuencias sean menores que en el nivel anterior, genera exposición regulatoria y daño reputacional.

El cuarto nivel es el de los sistemas de riesgo mínimo. No están sujetos a obligaciones específicas del Reglamento, aunque siguen dentro del perímetro de la normativa de protección de datos, la normativa sectorial aplicable y el compliance penal de la empresa. Filtros antispam, sistemas de recomendación de contenidos o herramientas de análisis predictivo de inventario son ejemplos habituales en este nivel.

¿Qué obligaciones concretas recaen sobre la empresa como desplegadora o proveedora?

El Reglamento distingue con precisión entre el papel de «proveedor» (quien diseña y comercializa el sistema) y el de «desplegador» (quien lo usa en su actividad profesional). Esta distinción es relevante porque las obligaciones difieren. Sin embargo, la norma impone responsabilidades cruzadas: el desplegador no puede excusarse en el cumplimiento del proveedor si él mismo introduce modificaciones en el sistema o lo utiliza para una finalidad no prevista.

Para la empresa desplegadora de un sistema de alto riesgo, las obligaciones más inmediatas son las siguientes:

  • Verificar que el proveedor ha completado el procedimiento de evaluación de conformidad y que el sistema lleva el marcado CE correspondiente.
  • Aplicar las instrucciones de uso previstas por el proveedor, sin modificar la finalidad del sistema ni los datos de entrenamiento.
  • Establecer mecanismos de supervisión humana sobre las decisiones automatizadas de alto riesgo, con capacidad real de intervención.
  • Mantener registros de actividad durante el plazo que establezca la normativa aplicable, de forma compatible con el principio de limitación de conservación del Reglamento General de Protección de Datos (RGPD).
  • Notificar al proveedor y, en su caso, a la autoridad competente los incidentes graves o el comportamiento no esperado del sistema.
  • Llevar a cabo, en determinados supuestos, una evaluación de impacto sobre los derechos fundamentales antes del despliegue.

Para la empresa que actúa como proveedora – la que desarrolla el sistema y lo introduce en el mercado o lo pone en servicio – las cargas son aún más intensas. Debe elaborar la documentación técnica, registrarse en la base de datos europea de sistemas de IA de alto riesgo, implantar un sistema de gestión de calidad y gestionar el ciclo de vida del sistema, incluidas las actualizaciones que puedan alterar el nivel de riesgo originalmente evaluado.

¿Afecta también a las empresas que desarrollan sistemas de IA para uso interno exclusivo? La respuesta es afirmativa en muchos supuestos. El Reglamento no exime al usuario profesional que desarrolla su propio sistema si éste entra en las categorías de alto riesgo. Esta es una de las áreas en que asesoramos con regularidad a empresas del sector tecnológico e industrial que, al desarrollar soluciones internas de análisis de datos o de automatización de procesos de recursos humanos, no anticipan su posición regulatoria.

Intersección con el RGPD: qué añade el Reglamento de IA al cumplimiento en protección de datos

Un error frecuente en la empresa es tratar el cumplimiento del Reglamento de IA como un proyecto separado del programa de protección de datos. Las normas son complementarias y, en muchos puntos, se solapan técnicamente.

El RGPD – aplicado en España con la colaboración de la Agencia Española de Protección de Datos (AEPD) – impone ya obligaciones que sirven de base al cumplimiento del Reglamento de IA. El registro de actividades de tratamiento, la evaluación de impacto relativa a la protección de datos (EIPD) y los principios de minimización y exactitud son instrumentos del RGPD que el Reglamento de IA extiende y complementa, no que sustituye.

Uno de los puntos de mayor convergencia es la toma de decisiones automatizada. El RGPD ya contemplaba el derecho del interesado a no ser objeto de una decisión basada únicamente en el tratamiento automatizado cuando produce efectos jurídicos o le afecta de modo significativo. El Reglamento de IA eleva las exigencias cuando ese sistema automatizado es, además, de alto riesgo: la supervisión humana pasa de ser una garantía optativa a convertirse en un requisito de conformidad.

La obligación de notificación de brechas de seguridad a la AEPD en un plazo de 72 horas desde que la empresa tiene constancia del incidente sigue vigente e intacta bajo el RGPD. El Reglamento de IA añade una capa: los incidentes graves derivados de un sistema de IA de alto riesgo deben notificarse también a las autoridades de vigilancia del mercado. Esto multiplica los interlocutores regulatorios de la empresa y exige que el protocolo de gestión de brechas e incidentes sea suficientemente flexible para cubrir ambas vías.

La adaptación al RGPD que muchas empresas completaron entre 2018 y 2020 no es, por tanto, suficiente. El programa de cumplimiento debe actualizarse para incorporar la dimensión de IA: inventario de sistemas, clasificación por nivel de riesgo, evaluaciones de impacto específicas y gobierno interno del ciclo de vida de los sistemas.

¿Hasta qué punto puede la empresa limitarse a una cláusula de privacidad en su web y considerar cumplidas sus obligaciones? En absoluto. Esta es la creencia errónea que con mayor frecuencia detectamos al iniciar una auditoría de cumplimiento. El registro de tratamientos, el protocolo documentado de respuesta a brechas y un modelo de compliance que integre la dimensión de IA reducen de forma significativa tanto la probabilidad de sanción como la responsabilidad de los administradores en caso de incidente.

¿Qué decisiones y plazos críticos debe gestionar la dirección de la empresa?

El Reglamento de Inteligencia Artificial entró en vigor de forma escalonada. Las prohibiciones absolutas se aplicaron a partir de los primeros meses del período transitorio. Las obligaciones relativas a sistemas de propósito general – incluidos los grandes modelos de lenguaje que la empresa puede integrar en sus procesos vía API – comenzaron a exigirse en una segunda fase. Las obligaciones completas para sistemas de alto riesgo se aplican en la tercera fase del calendario de entrada en vigor.

Conviene verificar con la normativa vigente los plazos exactos de cada fase, dado que pueden haberse modificado o precisado mediante actos de ejecución de la Comisión Europea desde la fecha de publicación de este análisis. Lo que sí es firme es la necesidad de actuar con antelación: las evaluaciones de conformidad, la documentación técnica y la implantación de sistemas de gestión de calidad requieren semanas o meses de trabajo interno y externo, no días.

Desde el punto de vista de la gestión de decisiones, la dirección debe abordar los siguientes hitos en orden de prioridad:

  1. Inventario de sistemas de IA: identificar todos los sistemas de IA que la empresa utiliza, desarrolla o distribuye, con independencia de su origen (desarrollo propio, SaaS, integración en ERP o CRM, modelos de terceros vía API).
  2. Clasificación preliminar por nivel de riesgo: asignar a cada sistema uno de los cuatro niveles del Reglamento. Esta clasificación no es definitiva hasta que se contraste con los anexos y actos delegados del Reglamento, pero permite priorizar el esfuerzo.
  3. Auditoría de contratos con proveedores tecnológicos: verificar que los contratos de adquisición o licencia de software con componente de IA incluyen las cláusulas de responsabilidad, documentación técnica y notificación de incidentes exigidas por el Reglamento. Muchos contratos vigentes no las contemplan.
  4. Actualización del programa de compliance: integrar los nuevos procedimientos de supervisión, notificación y registro en el modelo de cumplimiento existente, incluido el canal de denuncias si la empresa está sujeta a la directiva de protección del informante.
  5. Formación del personal responsable: los operadores humanos de sistemas de alto riesgo deben recibir formación específica sobre las instrucciones de uso y los mecanismos de supervisión. Esta formación es un requisito de conformidad, no una buena práctica voluntaria.

El calendario es ajustado. Las empresas que acometan este trabajo como un proyecto ad hoc, sin integrarlo en su programa de compliance penal y de protección de datos, incurrirán en ineficiencias y en brechas de cumplimiento que generan exposición residual.

El canal de denuncias y el compliance penal en el contexto de la IA

La implantación de sistemas de IA de alto riesgo en procesos de toma de decisiones empresariales – especialmente en recursos humanos, gestión de proveedores y control de riesgos – introduce vectores de riesgo penal que la empresa debe evaluar con atención.

El compliance penal de la empresa opera como un escudo frente a la responsabilidad penal de la persona jurídica. Su eficacia depende de que el modelo de prevención de delitos esté actualizado y recoja los riesgos emergentes. Un sistema de IA que adopta decisiones discriminatorias en el acceso al empleo o que trata datos personales sin base jurídica suficiente puede comprometer no solo la responsabilidad administrativa de la empresa ante la AEPD, sino también la responsabilidad penal cuando concurren los elementos típicos de determinados delitos contra la intimidad o la no discriminación.

El canal de denuncias cumple un papel doble en este contexto. Por un lado, permite a empleados y terceros reportar conductas relacionadas con el uso indebido de sistemas de IA dentro de la organización. Por otro, es en sí mismo un sistema cuya gestión puede implicar tratamiento de datos personales sensibles, lo que exige una evaluación de impacto específica si su implementación incorpora componentes automatizados de análisis de denuncias.

Hemos implantado programas de protección de datos y compliance en empresas tecnológicas, industriales y de salud, y en todas ellas la mayor dificultad no ha sido técnica sino organizativa: conseguir que el programa de cumplimiento deje de ser un proyecto del área jurídica para convertirse en una responsabilidad transversal que alcanza a la dirección de tecnología, a los responsables de producto y a los gestores de recursos humanos.

La integración del compliance de IA en el modelo de prevención de delitos existente no es optativa para las empresas que ya tienen implantado un programa certificado o en proceso de certificación. Una actualización parcial que no cubra los riesgos específicos de los sistemas de IA puede dejar vacíos que invaliden la eficacia eximente del modelo en sede judicial.

¿Cómo reduce el asesoramiento temprano el coste y el riesgo regulatorio?

La pregunta que con más frecuencia nos formulan las empresas en este contexto es cuándo es el momento adecuado para iniciar el proceso de clasificación y cumplimiento. La respuesta es simple: antes de desplegar el sistema, no después de recibir la primera comunicación de la autoridad de supervisión.

El asesoramiento preventivo actúa en tres dimensiones que reducen de forma mensurable el coste total del cumplimiento.

En primer lugar, la clasificación correcta del sistema evita incurrir en las obligaciones más gravosas de forma innecesaria. Muchas empresas sobredimensionan el nivel de riesgo de sus sistemas por desconocimiento, asumiendo cargas de documentación y evaluación que el Reglamento no les impone. Otras, al contrario, infravaloran el riesgo y despliegan sin las garantías requeridas. Ninguno de los dos errores es inocuo.

En segundo lugar, la revisión contractual anticipada con los proveedores tecnológicos permite renegociar cláusulas de responsabilidad y documentación antes de que el contrato esté vigente. Una vez desplegado el sistema y ejecutado el contrato, renegociar estas condiciones es costoso y, en ocasiones, inviable en los plazos que impone la normativa.

En tercer lugar, la integración del cumplimiento de IA en el programa de compliance existente – incluyendo la adaptación al RGPD, el compliance penal y el canal de denuncias – reduce la duplicación de esfuerzos y permite aprovechar las estructuras de gobernanza ya implantadas. Un programa construido desde cero para IA, sin aprovechar las bases del programa de protección de datos, es significativamente más costoso y genera inconsistencias internas.

Los derechos del interesado contemplados en el RGPD – acceso, rectificación, supresión, oposición, limitación, portabilidad – adquieren una dimensión adicional cuando el tratamiento de datos se realiza mediante sistemas de IA. El plazo de un mes, prorrogable en dos meses adicionales, para responder a estos derechos presupone que la empresa tiene identificado el sistema que trata los datos, localizada la información relevante y documentado el proceso de recuperación y entrega. Esto no es posible si los sistemas de IA no están inventariados ni clasificados.

La experiencia acumulada en la implantación de programas de compliance en sectores regulados muestra que las empresas que abordan el cumplimiento del Reglamento de IA como una extensión estructurada de su programa de protección de datos existente logran plazos de implantación más cortos y costes más predecibles que aquellas que lo tratan como un proyecto autónomo. La interoperabilidad entre marcos regulatorios no es solo deseable: es la única vía eficiente cuando los recursos de la empresa son limitados.

Riesgos de incumplimiento: sanciones y responsabilidad de la dirección

Las consecuencias del incumplimiento del Reglamento de Inteligencia Artificial operan en dos planos que la dirección debe conocer con precisión.

En el plano administrativo, el Reglamento establece un régimen sancionador escalonado. Las infracciones más graves – uso de sistemas prohibidos o incumplimiento de obligaciones de alto riesgo – acarrean las sanciones más elevadas del marco regulatorio europeo en materia de tecnología, comparables en su estructura a las del RGPD. Las infracciones de menor gravedad – como el incumplimiento de obligaciones de transparencia – se sitúan en un tramo inferior, pero siguen siendo materialmente significativas para una empresa de tamaño medio.

En el plano de la responsabilidad de los administradores, la existencia o ausencia de un programa de compliance documentado y efectivo tiene consecuencias directas. La legislación societaria española establece deberes de diligencia y lealtad que se proyectan sobre la gestión de riesgos regulatorios. Un administrador que no impulsa la adopción de medidas de cumplimiento disponibles y conocidas asume un riesgo de responsabilidad personal que la empresa no puede absorber contractualmente en todos los supuestos.

El régimen de compliance penal de la persona jurídica – cuya eficacia como causa de exención o atenuación de la responsabilidad depende de que el modelo sea «eficaz» según los criterios de la normativa penal – exige que los riesgos estén identificados en el mapa de riesgos y que los controles estén documentados. La IA no puede quedar fuera de ese mapa a partir del momento en que la empresa la utiliza de forma relevante en sus procesos.

¿Puede la empresa delegar toda la responsabilidad en el proveedor del sistema? No. El Reglamento de IA y el RGPD establecen responsabilidades propias del desplegador que no se trasladan contractualmente al proveedor de forma automática. La cláusula de exoneración de responsabilidad que un proveedor incluye en sus condiciones generales no libera a la empresa de sus obligaciones frente a las autoridades de supervisión europeas y españolas.

Checklist de cumplimiento: puntos de partida para la empresa

A continuación se recogen los elementos de verificación mínimos que toda empresa debe abordar al iniciar su proceso de clasificación y cumplimiento bajo el Reglamento de Inteligencia Artificial:

  • Inventario completo de sistemas de IA en uso, en desarrollo o en proceso de adquisición, con indicación del rol de la empresa (proveedora, distribuidora o desplegadora).
  • Clasificación preliminar de cada sistema según los cuatro niveles del Reglamento, con referencia a los anexos y actos delegados aplicables.
  • Verificación de la conformidad de los sistemas de alto riesgo adquiridos a terceros: marcado CE, documentación técnica disponible, instrucciones de uso.
  • Revisión de contratos tecnológicos vigentes para detectar ausencias en materia de responsabilidad, documentación y notificación de incidentes conforme al Reglamento.
  • Actualización del registro de actividades de tratamiento del RGPD para reflejar los tratamientos de datos realizados por sistemas de IA.
  • Evaluación de la necesidad de realizar una evaluación de impacto relativa a la protección de datos (EIPD) ampliada o una evaluación de impacto sobre derechos fundamentales específica del Reglamento de IA.
  • Revisión del protocolo de gestión de brechas de seguridad para incorporar la vía de notificación a las autoridades de vigilancia del mercado cuando proceda.
  • Verificación de que el canal de denuncias y el modelo de compliance penal recogen los riesgos derivados del uso de sistemas de IA.
  • Formación documentada de los operadores humanos de sistemas de alto riesgo.
  • Asignación de responsabilidades internas: identificar quién responde ante la autoridad de supervisión en caso de requerimiento.

Este checklist no sustituye a una auditoría jurídica completa. Sirve para identificar las brechas más urgentes y priorizar el trabajo antes de que la empresa entre en el perímetro de fiscalización activa de las autoridades de supervisión del mercado.

Servicios relacionados

El cumplimiento del Reglamento de Inteligencia Artificial se construye sobre la base de un programa sólido de protección de datos y compliance que integre tanto la dimensión del RGPD como la del nuevo marco regulatorio de IA. Para empresas que operan en sectores con cadenas de suministro internacionales, la revisión de las bases de transferencia de datos y el análisis de las cláusulas tipo resultan igualmente relevantes; puede consultar nuestro análisis sobre cláusulas tipo frente a evaluación de impacto en el sector agroalimentario. Asimismo, la dimensión de compliance penal que introduce el uso de IA en decisiones empresariales exige valorar la actualización del modelo de prevención de delitos; nuestra comparativa sobre compliance penal voluntario en el sector inmobiliario y de construcción ofrece un marco de análisis aplicable a otros sectores.

Preguntas frecuentes

¿Qué implica clasificación de sistemas de IA por riesgo para una empresa?
Implica identificar el nivel de riesgo – prohibido, alto, limitado o mínimo – de cada sistema de IA que la empresa desarrolla, adquiere o despliega. De ese nivel dependen las obligaciones concretas: desde la evaluación de conformidad y la supervisión humana en sistemas de alto riesgo, hasta las obligaciones de transparencia en sistemas de riesgo limitado. Una clasificación incorrecta genera tanto incumplimientos formales como cargas innecesarias. La empresa que opera como desplegadora sin haber clasificado sus sistemas asume un riesgo regulatorio no gestionado frente a las autoridades de supervisión españolas y europeas.
¿Qué plazos y costes conlleva clasificación de sistemas de IA por riesgo?
El Reglamento de Inteligencia Artificial prevé plazos escalonados de entrada en vigor según el nivel de riesgo. Las prohibiciones absolutas comenzaron a aplicarse en primer lugar; las obligaciones para sistemas de alto riesgo requieren períodos de adaptación adicionales. Los costes del cumplimiento dependen del número de sistemas implicados, del rol de la empresa y del estado previo del programa de compliance. En nuestra experiencia, las empresas que parten de un programa de protección de datos maduro reducen sensiblemente el tiempo y el coste de adaptación. Conviene verificar con la normativa vigente los plazos actualizados de cada fase.
¿Qué riesgos hay que evitar en clasificación de sistemas de IA por riesgo?
Los riesgos más frecuentes son: clasificar un sistema como de riesgo mínimo cuando entra en las categorías de alto riesgo del Reglamento, no revisar los contratos con proveedores tecnológicos para garantizar el acceso a la documentación técnica exigible, omitir la actualización del programa de compliance penal para incluir los riesgos de IA, y no integrar la nueva normativa con el programa de protección de datos existente. El riesgo de sanciones administrativas es elevado, y la responsabilidad de los administradores por omisión de diligencia debida en materia de cumplimiento normativo es un vector adicional que no debe subestimarse.
¿Cuándo conviene contar con asesoramiento en clasificación de sistemas de IA por riesgo?
El momento idóneo es antes del despliegue del sistema, no después de un requerimiento de la autoridad de supervisión. El asesoramiento temprano permite clasificar correctamente, revisar contratos con proveedores mientras aún es posible renegociar, e integrar el cumplimiento de IA en el programa de compliance existente de forma eficiente. Las empresas que evalúan adquirir software con componentes de IA, que desarrollan soluciones propias o que están en proceso de actualizar su programa de protección de datos son las que mayor retorno obtienen de un diagnóstico previo.

Análisis elaborado por Sergio Lozano, Colaborador · Protección de datos y compliance, Velarde & Vidal.

Este contenido es informativo y no constituye asesoramiento jurídico. Para un análisis de su situación, contacte con info@velardevidal.com.

Cuéntenos su asunto.
Le responde un socio.

Sin formularios eternos ni respuestas automáticas. Lee su mensaje un socio y le contesta en menos de dos horas en horario laboral.

  • Primera valoración orientativa sin compromiso
  • Confidencialidad desde el primer correo
  • Asesoramiento en español o en inglés
Plantear mi caso
Sus datos se tratan conforme al RGPD y la LOPDGDD y se remiten únicamente a info@velardevidal.com. No los compartimos con terceros.