Diagnóstico con IA en hospitales: ¿quién responde si el algoritmo falla?

En Estados Unidos ya están autorizados 1.451 productos médicos basados en inteligencia artificial (IA). En Alemania, las primeras cadenas hospitalarias ya utilizan diagnósticos con IA en su operativa diaria. Sin embargo, en la mayoría de los consejos de dirección, la IA en el sector sanitario sigue considerándose únicamente un tema de TI. Esto constituye un error estratégico. Porque si un sistema de IA pasa por alto un hallazgo clínico, quien responde ante los tribunales no es el director de sistemas (CIO), sino la propia dirección ejecutiva.

Lo más importante en breve

Por qué el diagnóstico con IA no es un proyecto de TI

La mayoría de los consejos de dirección de hospitales tratan el diagnóstico con inteligencia artificial (IA) como una decisión de adquisición: Radiología necesita una nueva herramienta, TI la evalúa y Compras negocia. Este enfoque es peligrosamente reduccionista. La IA en el diagnóstico es una ayuda clínica para la toma de decisiones que influye en las vías terapéuticas, plantea cuestiones de responsabilidad legal y desencadena obligaciones regulatorias. Este tema pertenece a la agenda estratégica, no al comité directivo de TI.

La razón es sencilla: si un sistema de IA pasa por alto un ictus en un análisis de TC y el paciente sufre daños, el problema no es un simple error de software. Se trata de una decisión clínica basada en una recomendación algorítmica. La obligación médica de diligencia sigue vigente, pero la dirección también tiene responsabilidades organizativas. ¿Garantizó el consejo de administración que la IA estaba validada? ¿Se formó adecuadamente al personal médico? ¿Existen procesos alternativos en caso de fallo? Si la respuesta es negativa, la situación se vuelve incómoda.

Lo que exige la Ley de IA a los consejos de administración

A partir de agosto de 2027, los requisitos de alto riesgo del Reglamento de IA de la UE (AI Act) se aplicarán a los sistemas de inteligencia artificial médicos. El Reglamento de Dispositivos Médicos (MDR, por sus siglas en inglés) regula la seguridad del producto, y el AI Act añade una capa adicional: gestión específica de riesgos relacionados con la IA, exigencias sobre la calidad de los datos de entrenamiento, documentación técnica que va más allá de los estándares del MDR y sistemas para la supervisión humana.

Para los consejos de dirección de hospitales esto significa, de forma concreta, que cualquier sistema de IA utilizado en diagnóstico o planificación terapéutica debe integrarse en un marco de gobernanza. Este marco incluye la selección (¿qué IA se utiliza y con qué base de evidencia?), la integración (¿cómo se incorpora al flujo clínico?), el seguimiento (¿quién supervisa su rendimiento?) y el plan de contingencia (¿qué ocurre si el sistema falla?).

El estudio Vara-PRAIM demuestra cómo hacerlo correctamente: 463.094 mamografías analizadas, publicado en Nature Medicine, con un aumento del 17,6 % en la detección de cáncer de mama. No se trata de un proyecto piloto, sino de evidencia clínica del más alto nivel. Sin embargo, ni siquiera este estudio exime al consejo de administración de su responsabilidad última sobre el uso del sistema.

«La pregunta ya no es si la IA funciona en el diagnóstico. La pregunta es cómo logramos trasladarla del entorno académico a la práctica clínica habitual, desde el punto de vista regulatorio, organizativo y económico.» – Prof. Alexander Berens, Universidad de Tubinga (2025)

Tres preguntas de gobernanza que todo consejo de dirección hospitalaria debe responder

1. ¿Quién decide sobre la implementación y quién supervisa? La inteligencia artificial (IA) en diagnóstico requiere una figura responsable claramente definida a nivel directivo (C-Level). No basta con el director de sistemas (CIO) ni únicamente con el director médico; se necesita un miembro del consejo que comprenda tanto la dimensión clínica como la regulatoria. En los hospitales que implementan con éxito la IA, existe un comité de IA o un Chief Medical Information Officer (CMIO) que actúa como puente entre ambos mundos.

2. ¿Sobre qué base de evidencia se seleccionó el sistema? El 24 % de los dispositivos de IA aprobados por la FDA carecen de estudios clínicos. Para un consejo de dirección que adquiere un sistema, la pregunta no es: ¿Está aprobado? Sino: ¿Ha sido validado en una cohorte de pacientes comparable? Una marca CE o una autorización de la FDA son requisitos necesarios, pero no suficientes. La diligencia debida en la selección del producto es una obligación del consejo.

3. ¿Qué ocurre si el sistema falla? Toda implementación de IA requiere un plan de contingencia documentado. Si Aidoc no puede priorizar la lista de informes diagnósticos debido a una caída del sistema, el flujo de trabajo debe cambiar sin interrupciones al cribado manual. Esto puede parecer trivial, pero es operativamente complejo y debe ensayarse con antelación, no en plena emergencia.

La contraparte: ¿No es esto una sobrerregulación?

Una objeción legítima: si cada uso de IA requiere un marco de gobernanza, ¿no frena eso su adopción? La respuesta es: sí, en parte. Pero la alternativa -una junta directiva hospitalaria que implemente diagnósticos con IA sin una responsabilidad estructurada- es peor. No por la regulación en sí, sino por la responsabilidad legal. El primer juicio en el que un tribunal pregunte a la dirección: «¿Qué gobernanza tenían para este sistema de IA?», transformará al sector. Es mejor estar preparado.

Asklepios demuestra con el despliegue de Aidoc en más de 25 centros que gobernanza y velocidad no son excluyentes. La financiación del programa KHZG (Krankenhauszukunftsgesetz, Ley alemana para el futuro de los hospitales) cubre la tecnología, mientras que el operador del centro se encarga de garantizar la organización. Este modelo funciona porque está impulsado desde la alta dirección (C-Level), no desde el departamento de TI.

Preguntas frecuentes

Fuente de la imagen de portada: Pexels / Tima Miroshnichenko (px:4226119)