El Reglamento de Inteligencia Artificial de la Unión Europea ha entrado en vigor y establece un calendario de aplicación por fases que ya está generando obligaciones reales para las empresas que desarrollan, importan o despliegan sistemas de inteligencia artificial en España. No se trata de una declaración de intenciones. Es un marco de cumplimiento con sanciones, con plazos y con una cadena de responsabilidad que alcanza a la dirección de la empresa. Quien no actúe ahora asume un riesgo que crece con cada mes de inactividad.
El Reglamento de Inteligencia Artificial aprobado por la Unión Europea es de aplicación directa en España. No requiere transposición. Su estructura parte de una clasificación de sistemas de inteligencia artificial por nivel de riesgo: inaceptable, alto, limitado y mínimo. Cada categoría conlleva un régimen de obligaciones distinto.
Los sistemas de riesgo inaceptable están prohibidos. Los de riesgo alto – que incluyen, entre otros, sistemas usados en selección de personal, evaluación crediticia, gestión de infraestructuras críticas y aplicaciones sanitarias – deben superar un proceso de evaluación de conformidad, contar con documentación técnica, establecer mecanismos de supervisión humana y registrarse en la base de datos de la Unión Europea antes de su comercialización o puesta en servicio.
Los sistemas de riesgo limitado tienen obligaciones de transparencia. Los de riesgo mínimo operan sin restricciones adicionales, aunque el reglamento anima a adoptar códigos de conducta voluntarios.
¿Qué significa esto en la práctica? Una empresa que utiliza un software de cribado de currículos, un sistema de valoración de solvencia para la concesión de crédito interno o una herramienta automatizada de decisión sobre empleados está operando en la categoría de riesgo alto. Si no ha iniciado su proceso de conformidad, está en situación de incumplimiento anticipado.
El calendario de aplicación del Reglamento de Inteligencia Artificial es escalonado. Las prohibiciones de sistemas de riesgo inaceptable ya son exigibles. Las obligaciones relativas a sistemas de riesgo alto en el ámbito de los recursos humanos, la banca y otros sectores regulados entran en vigor de forma progresiva. Conviene verificar el estado de cada plazo con la normativa vigente y con la guía publicada por la Agencia Española de Protección de Datos (AEPD), que ha asumido un papel activo en la supervisión de aplicaciones de inteligencia artificial con impacto en datos personales.
En nuestra experiencia asesorando a empresas en España, la brecha más frecuente no está en el desconocimiento del reglamento, sino en la ausencia de un inventario de sistemas de inteligencia artificial. Muchas organizaciones han integrado herramientas basadas en modelos de lenguaje o en algoritmos de decisión automatizada a través de proveedores o plataformas SaaS sin catalogar qué papel desempeñan en la cadena de responsabilidad regulatoria.
El Reglamento de Inteligencia Artificial y el Reglamento General de Protección de Datos (RGPD) coexisten. No son alternativos ni excluyentes. En numerosos sistemas de inteligencia artificial, el tratamiento de datos personales es consustancial al funcionamiento del sistema. Eso significa que el cumplimiento del Reglamento de Inteligencia Artificial no sustituye al cumplimiento del RGPD: los superpone.
La adaptación al RGPD que muchas empresas implantaron entre 2018 y 2020 resulta insuficiente para cubrir las exigencias actuales. Dos razones principales lo explican. Primera: los sistemas de inteligencia artificial introducen tratamientos de datos de naturaleza distinta – inferencia, perfilado, decisión automatizada – que deben evaluarse específicamente mediante evaluaciones de impacto (EIPD). Segunda: la Ley Orgánica de Protección de Datos y Garantía de los Derechos Digitales (LOPDGDD) establece garantías adicionales en el ámbito laboral y en el uso de sistemas de videovigilancia inteligente que no estaban contempladas en los programas de cumplimiento iniciales.
El mito de que con una cláusula de privacidad en la web ya se cumple el RGPD sigue siendo sorprendentemente frecuente. En nuestra práctica hemos auditado programas de cumplimiento que consistían, literalmente, en una política de privacidad genérica y un formulario de cookies. Ante una inspección de la AEPD o ante una brecha de seguridad, esa arquitectura de papel se desmorona de inmediato.
El registro de tratamientos, el protocolo de gestión de brechas de seguridad, las cláusulas contractuales con encargados del tratamiento y la evaluación de impacto son instrumentos verificables que distinguen a una empresa que ha construido un programa de cumplimiento real de una que simula tenerlo. La diferencia es relevante en términos de responsabilidad y, en caso de sanción, puede influir de forma significativa en la resolución de la AEPD.
El plazo para notificar una brecha de seguridad a la AEPD es de 72 horas desde que la empresa tiene conocimiento de ella. Ese plazo no admite demora burocrática. Solo una empresa que ha definido previamente su protocolo de respuesta a incidentes puede cumplirlo de manera realista.
El cumplimiento en inteligencia artificial no es un proyecto del departamento de tecnología. Es una decisión estratégica que corresponde al consejo de administración o a la dirección general. Implica recursos, implica procesos y, sobre todo, implica una asignación clara de responsabilidades.
Estas son las decisiones que no pueden postergarse:
La dirección que pospone estas decisiones no está ganando tiempo. Está acumulando exposición regulatoria y, en el caso de los sistemas de riesgo alto, puede estar comercializando o desplegando sistemas sin la conformidad que el reglamento exige.
El compliance penal de la empresa – el programa de prevención de responsabilidad penal de las personas jurídicas – debe extenderse para cubrir los riesgos derivados del uso de inteligencia artificial. Esta extensión no es teórica. Es práctica y urgente.
El uso de sistemas de inteligencia artificial en procesos de decisión con impacto en personas – selección de empleados, evaluación de solvencia, control de comportamientos – puede generar riesgos de discriminación algorítmica, vulneración de derechos fundamentales o tratamientos ilícitos de datos. Si esos riesgos se materializan por acción u omisión de la persona jurídica, la responsabilidad penal corporativa puede activarse.
Hemos observado que las empresas que ya cuentan con un modelo de cumplimiento penal bien estructurado tienen una ventaja inicial al abordar el compliance en inteligencia artificial. La arquitectura de identificación de riesgos, asignación de controles y formación de personas ya existe. Lo que se requiere es extenderla para incluir los nuevos vectores de riesgo tecnológico.
Para las empresas que no tienen ese modelo, el momento de construirlo es ahora. Porque el coste de implantarlo de forma ordenada es siempre inferior al coste de gestionarlo de forma reactiva tras un incidente.
¿Puede su empresa demostrar, ante una inspección o ante un tribunal, que adoptó medidas razonables para prevenir el uso indebido de sus sistemas de inteligencia artificial? Esa capacidad de demostración es lo que distingue a una organización con un programa de compliance real de una que actúa sin red.
Nuestro servicio de compliance en inteligencia artificial se estructura en fases que van desde la diagnosis inicial hasta la implantación del programa y su mantenimiento continuo. No entregamos documentos genéricos. Trabajamos con la realidad de cada empresa: sus sistemas, sus procesos, su sector y su nivel de exposición.
La primera fase es el diagnóstico de situación. Auditamos el catálogo de sistemas de inteligencia artificial en uso, identificamos los tratamientos de datos asociados y evaluamos el estado de cumplimiento frente al Reglamento de Inteligencia Artificial y el RGPD. El resultado es un mapa de brechas con priorización por riesgo y por plazo regulatorio.
La segunda fase es el diseño del programa de cumplimiento. Elaboramos o actualizamos el registro de tratamientos, redactamos las evaluaciones de impacto necesarias, revisamos los contratos con proveedores tecnológicos y establecemos el protocolo de gestión de brechas de seguridad. Para los sistemas de riesgo alto, coordinamos el proceso de evaluación de conformidad y la documentación técnica exigida.
La tercera fase es la implantación y formación. Un programa de cumplimiento que no se aplica en el día a día de la organización no existe. Por eso acompañamos a los equipos en la implantación de los controles, diseñamos el canal de denuncias y formamos a las personas responsables de la supervisión de los sistemas.
La cuarta fase es el mantenimiento y actualización continua. El Reglamento de Inteligencia Artificial tiene un calendario de aplicación progresivo y la normativa de protección de datos evoluciona con las decisiones de la AEPD y los criterios del Comité Europeo de Protección de Datos. Ofrecemos un servicio de seguimiento que permite a la empresa mantenerse al día sin necesidad de gestionar ese seguimiento internamente.
Hemos implantado programas de protección de datos y compliance en empresas tecnológicas, industriales y de salud. Sabemos que cada sector presenta particularidades – el entorno fintech tiene exigencias específicas, el sector salud trabaja con categorías especiales de datos, la industria automatizada integra sistemas de inteligencia artificial en entornos físicos – y adaptamos el programa a esa realidad.
Puede consultar nuestro análisis sobre las implicaciones del cumplimiento regulatorio en el sector fintech en nuestra pieza sobre fintech y servicios financieros, donde abordamos la intersección entre regulación financiera, tecnología y gestión de datos.
La inacción en compliance de inteligencia artificial no es una posición neutral. Es una exposición activa a varios vectores de riesgo que conviene nombrar con precisión.
Riesgo sancionador administrativo. Las infracciones graves del Reglamento de Inteligencia Artificial prevén sanciones de cuantía elevada, calculadas en función del volumen de negocio global de la empresa. Las infracciones de la normativa de protección de datos, gestionadas por la AEPD, siguen el mismo modelo. La AEPD ha demostrado en los últimos años una capacidad de actuación sólida, tanto a través de actuaciones de oficio como de reclamaciones.
Riesgo reputacional. Un incidente de inteligencia artificial con impacto en personas – una decisión discriminatoria, una brecha de datos en un sistema de inteligencia artificial, una actuación opaca de un algoritmo de selección – tiene una repercusión pública desproporcionada respecto a su origen técnico. La percepción de que la empresa no controla sus propios sistemas deteriora la confianza de clientes, empleados y socios.
Riesgo contractual. Los grandes compradores corporativos y los grupos internacionales están incorporando en sus contratos de suministro y de servicio cláusulas de compliance tecnológico. Una empresa que no puede acreditar un programa de cumplimiento en inteligencia artificial puede quedar excluida de licitaciones o perder contratos.
Riesgo de responsabilidad civil. El uso de sistemas de inteligencia artificial en decisiones que afectan a personas puede generar responsabilidad civil cuando se demuestra daño y relación causal. La normativa europea en este ámbito está en evolución, pero la dirección es inequívoca: mayor trazabilidad de las decisiones algorítmicas implica mayor exposición cuando esas decisiones son cuestionadas.
Riesgo de responsabilidad penal corporativa. Si la empresa no acredita que adoptó medidas razonables de control sobre sus sistemas de inteligencia artificial, la responsabilidad penal puede activarse en los supuestos en que el uso de esos sistemas esté vinculado a conductas tipificadas.
La empresa que actúa pronto construye su defensa antes de que sea necesaria. La empresa que espera gestiona los riesgos cuando ya se han materializado, en condiciones de mucha menor capacidad de respuesta y con costes mucho mayores.
No todas las empresas tienen la misma exposición ni los mismos plazos. La priorización de actuaciones depende de tres criterios que la dirección debe evaluar de forma conjunta.
Criterio 1: presencia de sistemas de riesgo alto. Si la empresa utiliza o desarrolla sistemas clasificables como de riesgo alto según el Reglamento de Inteligencia Artificial, los plazos de cumplimiento son más cortos y las consecuencias del incumplimiento son más severas. Estos sistemas deben abordarse de forma inmediata.
Criterio 2: volumen y sensibilidad de los datos tratados. Una empresa que trata datos de salud, datos biométricos o datos de menores tiene una exposición al RGPD significativamente mayor que una que trata solo datos de contacto profesional. La intersección de datos sensibles con sistemas de inteligencia artificial es el escenario de mayor riesgo combinado.
Criterio 3: posición en la cadena de valor del sistema. El Reglamento de Inteligencia Artificial distingue entre proveedor, importador, distribuidor y usuario del sistema. Las obligaciones son distintas según el rol. Una empresa que customiza o adapta un modelo de inteligencia artificial de propósito general para un uso específico puede ser considerada proveedor a efectos regulatorios, con todas las obligaciones que ello conlleva.
La intersección de estos tres criterios permite establecer una hoja de ruta realista y priorizada. En Velarde & Vidal comenzamos siempre por esta evaluación de prioridades antes de diseñar el programa de cumplimiento, porque el objetivo no es el cumplimiento burocrático, sino la reducción efectiva del riesgo.
Para profundizar en el marco regulatorio general de protección de datos y compliance, le recomendamos consultar nuestra página de práctica de protección de datos y compliance, donde encontrará el mapa completo de servicios que ofrecemos en esta área.
En nuestra práctica hemos identificado un patrón recurrente de errores que conviene anticipar.
El primero es tratar el compliance de inteligencia artificial como un proyecto de tecnología. El área de tecnología puede ejecutar parte de los controles, pero el programa de cumplimiento es un instrumento jurídico y organizativo. Requiere supervisión jurídica, no solo técnica.
El segundo error es confundir la valoración del proveedor con el cumplimiento propio. Muchas empresas creen que si su proveedor de inteligencia artificial es grande y reputado, el cumplimiento está garantizado. No es así. El Reglamento de Inteligencia Artificial distribuye responsabilidades a lo largo de toda la cadena. El usuario del sistema tiene obligaciones propias que no puede delegar contractualmente en el proveedor.
El tercer error es no actualizar el registro de tratamientos. El registro de actividades de tratamiento exigido por el RGPD debe reflejar todos los tratamientos de datos personales, incluidos los realizados a través de sistemas de inteligencia artificial. Un registro que no incluye esos tratamientos es un registro incompleto y no cumple su función de demostración del cumplimiento.
El cuarto error es no tener un protocolo de gestión de brechas de seguridad operativo. El plazo de 72 horas para notificar a la AEPD no deja margen para improvisar. Hemos visto empresas que llegaron al límite del plazo discutiendo internamente si el incidente era o no una brecha, sin un criterio predefinido ni una cadena de decisión clara.
El quinto error es no considerar el compliance de inteligencia artificial en la diligencia debida (due diligence) de operaciones corporativas. Una empresa que adquiere o se fusiona con otra que tiene sistemas de inteligencia artificial no conformes hereda ese pasivo regulatorio. En las operaciones de M&A en sectores tecnológicos, la auditoría de compliance de inteligencia artificial es ya una componente de la diligencia debida que no puede omitirse.
Si tiene dudas sobre si su empresa está en alguno de estos escenarios, le invitamos a consultarnos en nuestra sección de preguntas frecuentes sobre el Reglamento de Inteligencia Artificial, donde respondemos a las cuestiones más habituales que nos plantean las empresas en esta materia.
El compliance en inteligencia artificial se solapa de forma natural con otras áreas de nuestra práctica. La gestión de contratos con proveedores tecnológicos y la estructuración de operaciones corporativas en sectores digitales forma parte de nuestra práctica de Derecho societario y operaciones. Cuando los sistemas de inteligencia artificial operan en entornos laborales – selección de personal, control de rendimiento, gestión de equipos remotos – la intersección con nuestra práctica de Derecho laboral y movilidad es inmediata. Y en el ámbito de la propiedad intelectual, la titularidad de los modelos, los datos de entrenamiento y las creaciones generadas por inteligencia artificial plantea cuestiones que abordamos desde nuestra práctica de propiedad intelectual y tecnología.
Este contenido es informativo y no constituye asesoramiento jurídico. Para un análisis de su situación, contacte con info@velardevidal.com.
Sin formularios eternos ni respuestas automáticas. Lee su mensaje un socio y le contesta en menos de dos horas en horario laboral.