El sector de la salud y el farmacéutico se encuentra en una posición singular frente a la inteligencia artificial. Las organizaciones que ya han desplegado sistemas de apoyo al diagnóstico, automatización de procesos clínicos o análisis predictivo de cohortes de pacientes saben que la tecnología avanza con una velocidad muy superior a la de sus marcos de gobierno. Esa brecha, cuando no se gestiona, se convierte en exposición regulatoria de primera magnitud.
Los sistemas de inteligencia artificial que intervienen en decisiones sobre la salud de las personas están clasificados, con carácter general, como sistemas de alto riesgo por el Reglamento de Inteligencia Artificial de la Unión Europea. Esta clasificación no es un matiz técnico. Implica obligaciones de gestión de riesgos, documentación, trazabilidad y supervisión humana que afectan tanto al proveedor del sistema como a la empresa que lo despliega en el entorno clínico o farmacéutico.
La razón es estructural. Los datos que alimentan estos modelos son, en su mayoría, datos de salud. Y los datos de salud están sujetos a un régimen de protección reforzada bajo el Reglamento General de Protección de Datos (RGPD) y la Ley Orgánica de Protección de Datos y garantía de los derechos digitales (LOPDGDD). Tratar datos de salud para entrenar, validar o ejecutar un modelo de IA sin haber evaluado el impacto en la privacidad no es una omisión menor: es una infracción potencial que la Agencia Española de Protección de Datos (AEPD) puede investigar y sancionar.
En nuestra experiencia asesorando a empresas del sector, el error más frecuente no es desconocer la norma. Es infravalorar la velocidad a la que un sistema de IA implantado sin gobierno formal acumula riesgos que, después, son mucho más costosos de remediar que de prevenir. Una clínica que incorpora un sistema de análisis de imágenes médicas, una farmacéutica que usa modelos predictivos para ensayos clínicos o una aseguradora sanitaria que aplica IA en la valoración de coberturas están todas, sin excepción, dentro del ámbito de aplicación de las normas descritas.
¿Cuántas organizaciones del sector han completado realmente una evaluación de impacto relativa a la protección de datos para sus sistemas de IA? La respuesta, en nuestra práctica, es que son minoría.
El primer elemento de cualquier programa de gobierno de la IA en salud es entender que no existe una norma única. El marco aplicable resulta de la superposición de cuatro cuerpos normativos que deben leerse de forma integrada.
El primero es el Reglamento de Inteligencia Artificial de la Unión Europea, de aplicación progresiva desde 2024 y con plena eficacia para los sistemas de alto riesgo en el horizonte fijado por el propio texto. Los sistemas de IA de alto riesgo en el ámbito sanitario incluyen, entre otros, los utilizados para diagnóstico, toma de decisiones terapéuticas, gestión de la asistencia sanitaria y seguimiento del paciente. La norma distingue entre proveedores y desplegadores: la empresa que adquiere el sistema asume obligaciones propias como desplegador, aunque no haya participado en su desarrollo.
El segundo cuerpo normativo es el RGPD, que regula el tratamiento de datos personales. Los datos de salud constituyen una categoría especialmente protegida. Su tratamiento requiere, como regla general, una base jurídica reforzada. La evaluación de impacto relativa a la protección de datos es obligatoria cuando el tratamiento implica datos de salud a gran escala o decisiones automatizadas con efectos significativos para las personas.
El tercero es la LOPDGDD, que adapta el RGPD al ordenamiento español y otorga competencias de supervisión a la AEPD. La notificación de una brecha de seguridad a la AEPD debe producirse en un plazo de setenta y dos horas desde que se tiene conocimiento de ella. Este plazo no admite excepciones.
El cuarto bloque lo forman las normas sectoriales sanitarias, entre las que destacan la regulación de los productos sanitarios y los requisitos específicos aplicables a los sistemas de IA que se clasifiquen simultáneamente como producto sanitario con marcado CE. Esta doble calificación – sistema de IA de alto riesgo y producto sanitario – es la situación más exigente desde el punto de vista de cumplimiento.
La dirección general, el comité de dirección y la asesoría jurídica interna deben asumir que el gobierno de la IA es una función corporativa, no un asunto técnico que puede delegarse íntegramente en el departamento de TI. La razón es que las decisiones de mayor impacto regulatorio son decisiones de negocio: qué sistemas se despliegan, para qué finalidades, con qué datos y bajo qué controles de supervisión humana.
Identificamos seis decisiones críticas que la dirección debe abordar de forma estructurada.
La primera es el inventario de sistemas de IA. Antes de cualquier medida de gobierno, la empresa necesita conocer qué sistemas de IA opera o ha contratado, qué datos utilizan y qué clasificación de riesgo les corresponde bajo el Reglamento IA. En nuestra práctica hemos observado que muchas organizaciones sanitarias tienen sistemas de IA desplegados sin que la dirección jurídica o de cumplimiento tenga noticia de ello.
La segunda es la evaluación de impacto relativa a la protección de datos (EIPD) para cada sistema que trate datos de salud con efectos potencialmente significativos. Este análisis no es discrecional: la normativa de protección de datos lo exige con carácter previo al despliegue. La AEPD ha publicado criterios de referencia que facilitan su realización, pero el análisis debe adaptarse al sistema concreto.
La tercera decisión es la revisión de contratos con proveedores de IA. La relación con el proveedor del sistema debe quedar regulada mediante un acuerdo de encargado del tratamiento que cumpla los requisitos del RGPD. Adicionalmente, el Reglamento IA establece obligaciones específicas del proveedor frente al desplegador que deben quedar plasmadas contractualmente. Ignorar esta capa contractual es uno de los errores más frecuentes que corregimos en procesos de diligencia debida.
La cuarta es el diseño del protocolo de gestión de brechas de seguridad. Los sistemas de IA que acceden a datos de salud amplían la superficie de ataque y generan nuevos vectores de riesgo. El protocolo debe definir quién notifica a la AEPD en las setenta y dos horas previstas, qué información se incluye y cómo se comunica a los afectados cuando procede.
La quinta decisión es la integración de la gobernanza de la IA en el modelo de compliance penal de la empresa. El sistema de prevención de delitos – incluyendo el canal de denuncias – debe contemplar los riesgos asociados al uso indebido de la IA: acceso ilegítimo a datos clínicos, manipulación de modelos de decisión, discriminación algorítmica. Un programa de compliance penal desactualizado frente a los riesgos de la IA puede no ser eficaz como eximente o atenuante.
La sexta es la formación y concienciación del personal que interactúa con los sistemas de IA. La supervisión humana exigida por el Reglamento IA no es un requisito formal: la norma exige que las personas que supervisan el sistema comprendan sus capacidades, sus limitaciones y los indicadores de comportamiento anómalo. Sin formación acreditada, la supervisión humana es nominal.
Un programa de gobierno de la IA en el sector sanitario y farmacéutico no es un proyecto de una sola fase. Es un ciclo de mejora continua con puntos de revisión periódicos. Sin embargo, la implantación inicial puede estructurarse en cinco fases que, en condiciones normales, deben completarse antes del despliegue de cualquier sistema de alto riesgo.
El punto de partida es el levantamiento completo del inventario de sistemas de IA y su clasificación según los criterios del Reglamento IA. Esta fase incluye también la revisión del registro de actividades de tratamiento existente para identificar los tratamientos de datos de salud vinculados a cada sistema. El diagnóstico debe producir un mapa de riesgos que permita priorizar las actuaciones siguientes.
Para cada sistema de alto riesgo, se realizan dos análisis paralelos: la EIPD bajo el RGPD y la evaluación de conformidad bajo el Reglamento IA. Ambos análisis comparten datos de entrada pero tienen finalidades y destinatarios distintos. La EIPD se dirige a la AEPD como autoridad de control; la evaluación de conformidad bajo el Reglamento IA, al organismo notificado o al mercado. Ejecutarlos de forma coordinada reduce el coste y evita inconsistencias.
Los contratos con proveedores deben revisarse para incorporar las cláusulas exigidas por el RGPD y el Reglamento IA. Las políticas internas de uso de la IA, la política de privacidad y los procedimientos de gestión de incidentes deben actualizarse. Esta fase es también el momento de revisar si el canal de denuncias cubre los riesgos específicos de la IA.
La formación del personal debe acreditarse documentalmente. El Reglamento IA exige que los desplegadores de sistemas de alto riesgo garanticen que el personal que los supervisa ha recibido la información y la formación necesarias. La documentación de esta formación es, al mismo tiempo, evidencia de diligencia ante cualquier investigación regulatoria posterior.
El gobierno de la IA no termina con el despliegue del sistema. La norma impone al desplegador la obligación de monitorizar el comportamiento del sistema y de notificar al proveedor si detecta incidentes o comportamientos no esperados. Este sistema de monitorización debe integrarse en el programa general de compliance de la empresa y contar con indicadores de seguimiento específicos.
Esta pregunta tiene una respuesta precisa basada en nuestra experiencia acompañando a empresas del sector. El coste del cumplimiento preventivo es, sistemáticamente, inferior al coste de remediar una situación de incumplimiento. La diferencia no es marginal.
Cuando la AEPD inicia una investigación por un incidente de seguridad que involucra datos de salud, la empresa que dispone de un registro de tratamientos actualizado, una EIPD documentada y un protocolo de brechas activado en las setenta y dos horas previstas parte de una posición radicalmente distinta a la empresa que carece de esos elementos. El registro de tratamientos, el protocolo de brechas y el modelo de compliance reducen la sanción y la responsabilidad; no la eliminan, pero la acotan.
Un elemento que con frecuencia se subestima es el valor probatorio de la documentación de compliance ante los juzgados de lo mercantil en casos de responsabilidad corporativa. Una empresa farmacéutica que ha implantado un programa de cumplimiento penal actualizado, que incluya los riesgos de la IA, dispone de un escudo procesal que puede resultar determinante.
La creencia errónea más extendida que encontramos en el sector es que una cláusula de privacidad en la web o en el formulario de consentimiento del paciente es suficiente para cumplir con el RGPD. No lo es. El RGPD es un sistema de obligaciones organizativas y técnicas que no se agota con la información al interesado: requiere un registro de tratamientos, una base jurídica válida para cada tratamiento, medidas de seguridad proporcionales al riesgo, una EIPD cuando proceda y un protocolo de gestión de incidentes operativo.
Hemos implantado programas de protección de datos y compliance en empresas tecnológicas, industriales y de salud. La experiencia acumulada indica que las organizaciones que afrontan la adaptación de forma proactiva – antes de que el regulador llame a la puerta o de que ocurra un incidente – no solo ahorran en el coste directo del remedio. También protegen su reputación, elemento de valor intangible en un sector donde la confianza del paciente es el activo más relevante.
El ámbito farmacéutico presenta dos contextos de uso de la IA con perfil de riesgo propio que merecen un análisis separado.
El primero es el uso de la IA en ensayos clínicos. Los modelos de selección de participantes, de análisis de datos intermedios y de predicción de respuesta terapéutica tratan datos de salud de personas físicas identificables. La base jurídica para este tratamiento debe estar perfectamente definida. El consentimiento, cuando se utiliza como base, debe ser específico para el tratamiento con IA y no puede solicitarse de forma conjunta con el consentimiento para participar en el ensayo. La reutilización de datos de ensayos previos para entrenar modelos de IA requiere un análisis de compatibilidad de finalidades que, en nuestra práctica, con frecuencia se omite.
El segundo es la farmacovigilancia automatizada. Los sistemas de IA que monitorizan señales de seguridad en bases de datos de reacciones adversas tratan, por definición, datos de salud de gran volumen. La automatización de la detección de señales está expresamente contemplada en el marco europeo de farmacovigilancia. Sin embargo, el uso de IA en este proceso debe quedar documentado, y la decisión final sobre la comunicación de una señal a las autoridades competentes debe mantenerse bajo supervisión humana cualificada. La delegación de esa decisión al sistema algorítmico sin supervisión humana efectiva es un incumplimiento tanto de la normativa de farmacovigilancia como del Reglamento IA.
Para facilitar una primera autoevaluación, recogemos los elementos mínimos que debe verificar la dirección de una empresa del sector antes de desplegar o continuar operando sistemas de IA que traten datos de salud.
Este listado no es exhaustivo ni sustituye al análisis jurídico específico. Es un punto de partida para que la dirección pueda identificar, en un tiempo reducido, las lagunas más relevantes de su marco de gobierno actual. La adaptación al RGPD y al Reglamento IA es un proceso continuo, no un proyecto de una sola entrega.
¿Está su organización en condiciones de demostrar al regulador que gestiona la IA de forma responsable? La respuesta a esa pregunta determina, en buena medida, el perfil de riesgo de su empresa en el entorno regulatorio que define los próximos años del sector.
El gobierno de la IA en el sector sanitario y farmacéutico se solapa con otras áreas de práctica que, en nuestra firma, trabajamos de forma coordinada. Si su empresa combina el uso de datos de salud con modelos de negocio digital o de financiación, le recomendamos revisar nuestra práctica de protección de datos y compliance, que integra tanto el cumplimiento del RGPD como el diseño de programas de compliance penal adaptados a entornos regulados.
Para empresas del sector que operan bajo modelos de financiación o de alianzas con fondos e inversores, el análisis de las cuestiones regulatorias vinculadas a la IA puede conectar con los aspectos abordados en nuestros recursos sobre startups y capital riesgo. En contextos de pagos digitales, seguros de salud digitales o servicios de salud con componentes financieros, puede resultar igualmente relevante consultar nuestro análisis sobre fintech y servicios financieros.
Este contenido es informativo y no constituye asesoramiento jurídico. Para un análisis de su situación, contacte con info@velardevidal.com.
Sin formularios eternos ni respuestas automáticas. Lee su mensaje un socio y le contesta en menos de dos horas en horario laboral.