El Reglamento Europeo de Inteligencia Artificial ha transformado el panorama del cumplimiento normativo para cualquier empresa que desarrolle, importe, distribuya o utilice sistemas de inteligencia artificial en el mercado interior de la Unión Europea. La norma no trata todos los sistemas por igual. Impone una arquitectura de obligaciones escalonada en función del nivel de riesgo que cada sistema representa para la seguridad, los derechos fundamentales y los intereses de las personas afectadas. Quien no comprenda esa clasificación antes de que su empresa quede sujeta a ella asumirá cargas regulatorias innecesarias o, peor aún, infringirá obligaciones de alto impacto sin saberlo.
El Reglamento de Inteligencia Artificial de la Unión Europea articula cuatro niveles de riesgo. Cada nivel arrastra un conjunto diferente de obligaciones para los operadores económicos que intervienen en la cadena de valor del sistema: proveedores, importadores, distribuidores y usuarios profesionales (denominados en la norma «desplegadores»).
El primer nivel recoge las prácticas de inteligencia artificial prohibidas. Son sistemas cuyo uso queda vedado en la Unión Europea con carácter absoluto o sujeto a condiciones muy estrictas. El Reglamento enumera categorías que atentan de forma inaceptable contra derechos fundamentales: sistemas de puntuación social de personas físicas aplicados por poderes públicos, técnicas de manipulación subliminal que explotan vulnerabilidades del individuo, e identificación biométrica remota en tiempo real en espacios de acceso público salvo excepciones tasadas. Una empresa que integre alguno de estos sistemas en su operativa, aunque proceda de un proveedor externo, no está exenta de responsabilidad.
El segundo nivel, de mayor relevancia para la empresa ordinaria, es el de los sistemas de alto riesgo. Aquí se concentran las obligaciones más exigentes: evaluación de conformidad, documentación técnica exhaustiva, registro en la base de datos europea, sistema de gestión de calidad y, en muchos casos, supervisión humana obligatoria. Las categorías incluyen, entre otras, sistemas de IA utilizados en infraestructuras críticas, en gestión de acceso a la educación o al empleo, en evaluación de solvencia crediticia y en administración de justicia.
En nuestra práctica hemos observado que muchas empresas medianas subestiman su posición en esta categoría. Un sistema de selección automatizada de candidatos, una herramienta de puntuación crediticia integrada en un software de tesorería o un módulo de evaluación de rendimiento laboral pueden caer en el ámbito de alto riesgo sin que la dirección lo haya advertido durante la fase de adquisición del software.
El tercer nivel abarca los sistemas de riesgo limitado. Están sujetos principalmente a obligaciones de transparencia frente al usuario: deben informar de que éste interactúa con un sistema de IA. Los chatbots de atención al cliente y los sistemas de generación de contenido sintético son ejemplos prototípicos. El incumplimiento de la obligación de transparencia, aunque las consecuencias sean menores que en el nivel anterior, genera exposición regulatoria y daño reputacional.
El cuarto nivel es el de los sistemas de riesgo mínimo. No están sujetos a obligaciones específicas del Reglamento, aunque siguen dentro del perímetro de la normativa de protección de datos, la normativa sectorial aplicable y el compliance penal de la empresa. Filtros antispam, sistemas de recomendación de contenidos o herramientas de análisis predictivo de inventario son ejemplos habituales en este nivel.
El Reglamento distingue con precisión entre el papel de «proveedor» (quien diseña y comercializa el sistema) y el de «desplegador» (quien lo usa en su actividad profesional). Esta distinción es relevante porque las obligaciones difieren. Sin embargo, la norma impone responsabilidades cruzadas: el desplegador no puede excusarse en el cumplimiento del proveedor si él mismo introduce modificaciones en el sistema o lo utiliza para una finalidad no prevista.
Para la empresa desplegadora de un sistema de alto riesgo, las obligaciones más inmediatas son las siguientes:
Para la empresa que actúa como proveedora – la que desarrolla el sistema y lo introduce en el mercado o lo pone en servicio – las cargas son aún más intensas. Debe elaborar la documentación técnica, registrarse en la base de datos europea de sistemas de IA de alto riesgo, implantar un sistema de gestión de calidad y gestionar el ciclo de vida del sistema, incluidas las actualizaciones que puedan alterar el nivel de riesgo originalmente evaluado.
¿Afecta también a las empresas que desarrollan sistemas de IA para uso interno exclusivo? La respuesta es afirmativa en muchos supuestos. El Reglamento no exime al usuario profesional que desarrolla su propio sistema si éste entra en las categorías de alto riesgo. Esta es una de las áreas en que asesoramos con regularidad a empresas del sector tecnológico e industrial que, al desarrollar soluciones internas de análisis de datos o de automatización de procesos de recursos humanos, no anticipan su posición regulatoria.
Un error frecuente en la empresa es tratar el cumplimiento del Reglamento de IA como un proyecto separado del programa de protección de datos. Las normas son complementarias y, en muchos puntos, se solapan técnicamente.
El RGPD – aplicado en España con la colaboración de la Agencia Española de Protección de Datos (AEPD) – impone ya obligaciones que sirven de base al cumplimiento del Reglamento de IA. El registro de actividades de tratamiento, la evaluación de impacto relativa a la protección de datos (EIPD) y los principios de minimización y exactitud son instrumentos del RGPD que el Reglamento de IA extiende y complementa, no que sustituye.
Uno de los puntos de mayor convergencia es la toma de decisiones automatizada. El RGPD ya contemplaba el derecho del interesado a no ser objeto de una decisión basada únicamente en el tratamiento automatizado cuando produce efectos jurídicos o le afecta de modo significativo. El Reglamento de IA eleva las exigencias cuando ese sistema automatizado es, además, de alto riesgo: la supervisión humana pasa de ser una garantía optativa a convertirse en un requisito de conformidad.
La obligación de notificación de brechas de seguridad a la AEPD en un plazo de 72 horas desde que la empresa tiene constancia del incidente sigue vigente e intacta bajo el RGPD. El Reglamento de IA añade una capa: los incidentes graves derivados de un sistema de IA de alto riesgo deben notificarse también a las autoridades de vigilancia del mercado. Esto multiplica los interlocutores regulatorios de la empresa y exige que el protocolo de gestión de brechas e incidentes sea suficientemente flexible para cubrir ambas vías.
La adaptación al RGPD que muchas empresas completaron entre 2018 y 2020 no es, por tanto, suficiente. El programa de cumplimiento debe actualizarse para incorporar la dimensión de IA: inventario de sistemas, clasificación por nivel de riesgo, evaluaciones de impacto específicas y gobierno interno del ciclo de vida de los sistemas.
¿Hasta qué punto puede la empresa limitarse a una cláusula de privacidad en su web y considerar cumplidas sus obligaciones? En absoluto. Esta es la creencia errónea que con mayor frecuencia detectamos al iniciar una auditoría de cumplimiento. El registro de tratamientos, el protocolo documentado de respuesta a brechas y un modelo de compliance que integre la dimensión de IA reducen de forma significativa tanto la probabilidad de sanción como la responsabilidad de los administradores en caso de incidente.
El Reglamento de Inteligencia Artificial entró en vigor de forma escalonada. Las prohibiciones absolutas se aplicaron a partir de los primeros meses del período transitorio. Las obligaciones relativas a sistemas de propósito general – incluidos los grandes modelos de lenguaje que la empresa puede integrar en sus procesos vía API – comenzaron a exigirse en una segunda fase. Las obligaciones completas para sistemas de alto riesgo se aplican en la tercera fase del calendario de entrada en vigor.
Conviene verificar con la normativa vigente los plazos exactos de cada fase, dado que pueden haberse modificado o precisado mediante actos de ejecución de la Comisión Europea desde la fecha de publicación de este análisis. Lo que sí es firme es la necesidad de actuar con antelación: las evaluaciones de conformidad, la documentación técnica y la implantación de sistemas de gestión de calidad requieren semanas o meses de trabajo interno y externo, no días.
Desde el punto de vista de la gestión de decisiones, la dirección debe abordar los siguientes hitos en orden de prioridad:
El calendario es ajustado. Las empresas que acometan este trabajo como un proyecto ad hoc, sin integrarlo en su programa de compliance penal y de protección de datos, incurrirán en ineficiencias y en brechas de cumplimiento que generan exposición residual.
La implantación de sistemas de IA de alto riesgo en procesos de toma de decisiones empresariales – especialmente en recursos humanos, gestión de proveedores y control de riesgos – introduce vectores de riesgo penal que la empresa debe evaluar con atención.
El compliance penal de la empresa opera como un escudo frente a la responsabilidad penal de la persona jurídica. Su eficacia depende de que el modelo de prevención de delitos esté actualizado y recoja los riesgos emergentes. Un sistema de IA que adopta decisiones discriminatorias en el acceso al empleo o que trata datos personales sin base jurídica suficiente puede comprometer no solo la responsabilidad administrativa de la empresa ante la AEPD, sino también la responsabilidad penal cuando concurren los elementos típicos de determinados delitos contra la intimidad o la no discriminación.
El canal de denuncias cumple un papel doble en este contexto. Por un lado, permite a empleados y terceros reportar conductas relacionadas con el uso indebido de sistemas de IA dentro de la organización. Por otro, es en sí mismo un sistema cuya gestión puede implicar tratamiento de datos personales sensibles, lo que exige una evaluación de impacto específica si su implementación incorpora componentes automatizados de análisis de denuncias.
Hemos implantado programas de protección de datos y compliance en empresas tecnológicas, industriales y de salud, y en todas ellas la mayor dificultad no ha sido técnica sino organizativa: conseguir que el programa de cumplimiento deje de ser un proyecto del área jurídica para convertirse en una responsabilidad transversal que alcanza a la dirección de tecnología, a los responsables de producto y a los gestores de recursos humanos.
La integración del compliance de IA en el modelo de prevención de delitos existente no es optativa para las empresas que ya tienen implantado un programa certificado o en proceso de certificación. Una actualización parcial que no cubra los riesgos específicos de los sistemas de IA puede dejar vacíos que invaliden la eficacia eximente del modelo en sede judicial.
La pregunta que con más frecuencia nos formulan las empresas en este contexto es cuándo es el momento adecuado para iniciar el proceso de clasificación y cumplimiento. La respuesta es simple: antes de desplegar el sistema, no después de recibir la primera comunicación de la autoridad de supervisión.
El asesoramiento preventivo actúa en tres dimensiones que reducen de forma mensurable el coste total del cumplimiento.
En primer lugar, la clasificación correcta del sistema evita incurrir en las obligaciones más gravosas de forma innecesaria. Muchas empresas sobredimensionan el nivel de riesgo de sus sistemas por desconocimiento, asumiendo cargas de documentación y evaluación que el Reglamento no les impone. Otras, al contrario, infravaloran el riesgo y despliegan sin las garantías requeridas. Ninguno de los dos errores es inocuo.
En segundo lugar, la revisión contractual anticipada con los proveedores tecnológicos permite renegociar cláusulas de responsabilidad y documentación antes de que el contrato esté vigente. Una vez desplegado el sistema y ejecutado el contrato, renegociar estas condiciones es costoso y, en ocasiones, inviable en los plazos que impone la normativa.
En tercer lugar, la integración del cumplimiento de IA en el programa de compliance existente – incluyendo la adaptación al RGPD, el compliance penal y el canal de denuncias – reduce la duplicación de esfuerzos y permite aprovechar las estructuras de gobernanza ya implantadas. Un programa construido desde cero para IA, sin aprovechar las bases del programa de protección de datos, es significativamente más costoso y genera inconsistencias internas.
Los derechos del interesado contemplados en el RGPD – acceso, rectificación, supresión, oposición, limitación, portabilidad – adquieren una dimensión adicional cuando el tratamiento de datos se realiza mediante sistemas de IA. El plazo de un mes, prorrogable en dos meses adicionales, para responder a estos derechos presupone que la empresa tiene identificado el sistema que trata los datos, localizada la información relevante y documentado el proceso de recuperación y entrega. Esto no es posible si los sistemas de IA no están inventariados ni clasificados.
La experiencia acumulada en la implantación de programas de compliance en sectores regulados muestra que las empresas que abordan el cumplimiento del Reglamento de IA como una extensión estructurada de su programa de protección de datos existente logran plazos de implantación más cortos y costes más predecibles que aquellas que lo tratan como un proyecto autónomo. La interoperabilidad entre marcos regulatorios no es solo deseable: es la única vía eficiente cuando los recursos de la empresa son limitados.
Las consecuencias del incumplimiento del Reglamento de Inteligencia Artificial operan en dos planos que la dirección debe conocer con precisión.
En el plano administrativo, el Reglamento establece un régimen sancionador escalonado. Las infracciones más graves – uso de sistemas prohibidos o incumplimiento de obligaciones de alto riesgo – acarrean las sanciones más elevadas del marco regulatorio europeo en materia de tecnología, comparables en su estructura a las del RGPD. Las infracciones de menor gravedad – como el incumplimiento de obligaciones de transparencia – se sitúan en un tramo inferior, pero siguen siendo materialmente significativas para una empresa de tamaño medio.
En el plano de la responsabilidad de los administradores, la existencia o ausencia de un programa de compliance documentado y efectivo tiene consecuencias directas. La legislación societaria española establece deberes de diligencia y lealtad que se proyectan sobre la gestión de riesgos regulatorios. Un administrador que no impulsa la adopción de medidas de cumplimiento disponibles y conocidas asume un riesgo de responsabilidad personal que la empresa no puede absorber contractualmente en todos los supuestos.
El régimen de compliance penal de la persona jurídica – cuya eficacia como causa de exención o atenuación de la responsabilidad depende de que el modelo sea «eficaz» según los criterios de la normativa penal – exige que los riesgos estén identificados en el mapa de riesgos y que los controles estén documentados. La IA no puede quedar fuera de ese mapa a partir del momento en que la empresa la utiliza de forma relevante en sus procesos.
¿Puede la empresa delegar toda la responsabilidad en el proveedor del sistema? No. El Reglamento de IA y el RGPD establecen responsabilidades propias del desplegador que no se trasladan contractualmente al proveedor de forma automática. La cláusula de exoneración de responsabilidad que un proveedor incluye en sus condiciones generales no libera a la empresa de sus obligaciones frente a las autoridades de supervisión europeas y españolas.
A continuación se recogen los elementos de verificación mínimos que toda empresa debe abordar al iniciar su proceso de clasificación y cumplimiento bajo el Reglamento de Inteligencia Artificial:
Este checklist no sustituye a una auditoría jurídica completa. Sirve para identificar las brechas más urgentes y priorizar el trabajo antes de que la empresa entre en el perímetro de fiscalización activa de las autoridades de supervisión del mercado.
El cumplimiento del Reglamento de Inteligencia Artificial se construye sobre la base de un programa sólido de protección de datos y compliance que integre tanto la dimensión del RGPD como la del nuevo marco regulatorio de IA. Para empresas que operan en sectores con cadenas de suministro internacionales, la revisión de las bases de transferencia de datos y el análisis de las cláusulas tipo resultan igualmente relevantes; puede consultar nuestro análisis sobre cláusulas tipo frente a evaluación de impacto en el sector agroalimentario. Asimismo, la dimensión de compliance penal que introduce el uso de IA en decisiones empresariales exige valorar la actualización del modelo de prevención de delitos; nuestra comparativa sobre compliance penal voluntario en el sector inmobiliario y de construcción ofrece un marco de análisis aplicable a otros sectores.
Este contenido es informativo y no constituye asesoramiento jurídico. Para un análisis de su situación, contacte con info@velardevidal.com.
Sin formularios eternos ni respuestas automáticas. Lee su mensaje un socio y le contesta en menos de dos horas en horario laboral.