KI-Diagnostik: Haftungsfragen bei fehlerhaften Algorithmen

Das Wichtigste in Kürze

1.451 FDA-Zulassungen, 76% Radiologie: Die USA haben in acht Jahren eine KI-Diagnostik-Industrie aufgebaut. Europa hat nicht einmal eine öffentliche Datenbank (The Imaging Wire, 2026).
24% ohne klinische Studie: Jedes vierte FDA-zugelassene KI-Gerät hat keine Validierungsstudie. Für Vorstände bedeutet das: Produktauswahl ist Risikoentscheidung (JAMA Network Open, 2025).
AI Act ab August 2027: Medizinische KI wird automatisch als Hochrisiko eingestuft. Das erfordert KI-spezifisches Risikomanagement, Datenqualitäts-Governance und dokumentierte menschliche Aufsicht.
Haftungslücke auf C-Level: Weder MDR noch AI Act definieren abschliessend, wer haftet, wenn KI-Diagnostik versagt. Die Geschäftsführung muss diese Lücke durch Governance-Strukturen schliessen.
Asklepios als Referenz: 25+ Kliniken mit Aidoc (CT-Analyse), KHZG-finanziert. Zeigt, dass KI-Diagnostik im Regelbetrieb funktioniert – wenn die Governance stimmt.

Warum KI-Diagnostik kein IT-Projekt ist

Die meisten Klinikvorstände behandeln KI-Diagnostik als Beschaffungsentscheidung: Die Radiologie braucht ein neues Tool, die IT evaluiert, der Einkauf verhandelt. Das ist gefährlich verkürzt. KI in der Diagnostik ist eine klinische Entscheidungshilfe, die Behandlungspfade beeinflusst, Haftungsfragen aufwirft und regulatorische Pflichten auslöst. Das gehört auf die strategische Agenda, nicht in den IT-Lenkungsausschuss.

Der Grund ist einfach: Wenn ein KI-System in der CT-Analyse einen Schlaganfall übersieht und der Patient Schaden nimmt, geht es nicht um einen Software-Bug. Es geht um eine Behandlungsentscheidung, die auf einer algorithmischen Empfehlung basierte. Die ärztliche Sorgfaltspflicht bleibt bestehen, aber die Geschäftsführung hat die Organisationspflicht. Hat der Vorstand sichergestellt, dass die KI validiert ist? Dass Ärzte geschult wurden? Dass es Fallback-Prozesse gibt? Wenn nicht, wird es ungemütlich.

24,1 %
der FDA-zugelassenen KI-Medizinprodukte haben keinerlei klinische Validierungsstudie
Quelle: JAMA Network Open, April 2025

Was der AI Act vom Vorstand verlangt

Ab August 2027 gelten die Hochrisiko-Anforderungen des EU AI Act für medizinische KI-Systeme. Die MDR regelt die Produktsicherheit, der AI Act legt eine Schicht darüber: KI-spezifisches Risikomanagement, Anforderungen an die Qualität der Trainingsdaten, technische Dokumentation, die über MDR-Standards hinausgeht, und Systeme für menschliche Aufsicht.

Für Klinikvorstände heisst das konkret: Jede KI, die in der Diagnostik oder Behandlungsplanung eingesetzt wird, muss in ein Governance-Framework eingebettet sein. Das umfasst die Auswahl (Welche KI, auf welcher Evidenzbasis?), die Integration (Wie wird sie in den klinischen Workflow eingebunden?), das Monitoring (Wer überwacht die Performance?) und den Fallback (Was passiert, wenn das System ausfällt?).

Die Vara-PRAIM-Studie zeigt, wie es richtig geht: 463.094 Mammografie-Screenings, publiziert in Nature Medicine, mit einer Steigerung der Brustkrebserkennung um 17,6%. Das ist kein Pilotprojekt, das ist klinische Evidenz auf höchstem Niveau. Aber selbst diese Studie ändert nichts daran, dass der Vorstand die Letztverantwortung für den Einsatz trägt.

„Die Frage ist nicht mehr, ob KI in der Diagnostik funktioniert. Die Frage ist, wie wir den Transfer von der Studie in den Regelbetrieb schaffen – regulatorisch, organisatorisch und wirtschaftlich.“
– Prof. Alexander Berens, Universität Tübingen (2025)

Drei Governance-Fragen, die jeder Klinikvorstand beantworten muss

1. Wer entscheidet über den Einsatz – und wer überwacht? KI-Diagnostik braucht einen definierten Verantwortlichen auf C-Level. Nicht den CIO, nicht den Ärztlichen Direktor allein, sondern ein Board-Mitglied, das sowohl die klinische als auch die regulatorische Dimension überblickt. In Häusern, die KI erfolgreich einsetzen, gibt es ein KI-Board oder einen Chief Medical Information Officer, der beide Welten verbindet.

2. Auf welcher Evidenzbasis wurde das System ausgewählt? 24% der FDA-zugelassenen KI-Geräte haben keine klinische Studie. Für einen Vorstand, der ein System beschafft, ist die Frage nicht: Ist es zugelassen? Sondern: Ist es an einem vergleichbaren Patientenkollektiv validiert? Ein CE-Zeichen oder eine FDA-Clearance ist notwendig, aber nicht hinreichend. Die Due Diligence bei der Produktauswahl ist Vorstandspflicht.

3. Was passiert, wenn das System versagt? Jede KI-Implementierung braucht einen dokumentierten Fallback. Wenn Aidoc die Befundliste nicht priorisieren kann, weil das System ausfällt, muss der Workflow nahtlos auf manuelles Screening umschalten. Das klingt trivial, ist aber operativ anspruchsvoll – und muss im Vorfeld geübt werden, nicht im Ernstfall.

Die Gegenposition: Ist das nicht Überregulierung?

Ein berechtigter Einwand: Wenn jeder KI-Einsatz ein Governance-Framework braucht, hemmt das nicht die Adoption? Die Antwort ist: Ja, teilweise. Aber die Alternative – ein Klinikvorstand, der KI-Diagnostik ohne strukturierte Verantwortung einführt – ist schlechter. Nicht wegen der Regulierung, sondern wegen der Haftung. Der erste Gerichtsprozess, in dem ein Gericht die Geschäftsführung fragt „Welche Governance hatten Sie für dieses KI-System?“, wird die Branche verändern. Besser, darauf vorbereitet zu sein.

Asklepios zeigt mit dem Aidoc-Rollout in 25+ Häusern, dass Governance und Geschwindigkeit sich nicht ausschliessen. Die KHZG-Förderung finanziert die Technik, die Organisation stellt der Klinikbetreiber selbst sicher. Das Modell funktioniert, weil es von der C-Level gesteuert wird, nicht von der IT-Abteilung.

Häufige Fragen

Wer haftet, wenn KI-Diagnostik einen Befund übersieht?
Die MDR regelt die Produkthaftung des Herstellers. Die ärztliche Sorgfaltspflicht des behandelnden Arztes bleibt bestehen. Die Geschäftsführung trägt die Organisationspflicht: Sie muss sicherstellen, dass das System validiert, das Personal geschult und Fallback-Prozesse definiert sind. Eine abschliessende Klärung durch die Rechtsprechung steht noch aus.

Ab wann gelten die AI-Act-Anforderungen für medizinische KI?
Die vollen Hochrisiko-Anforderungen des EU AI Act greifen ab dem 2. August 2027. Medizinische KI-Systeme unter MDR oder IVDR werden automatisch als Hochrisiko eingestuft.

Wie viele Kliniken in Deutschland setzen KI-Diagnostik ein?
Es gibt kein nationales Register. Asklepios setzt Aidoc in über 25 Häusern ein. Die Vara-PRAIM-Studie umfasste 463.094 Screenings an deutschen Brustkrebszentren. Der G-BA fördert mit xR.AI den regelhaften KI-Einsatz in der Radiologie. Von einem flächendeckenden Rollout ist Deutschland weit entfernt.

Was kostet ein KI-Governance-Framework für ein mittelgrosses Krankenhaus?
Die reinen Framework-Kosten (Prozessdefinition, Dokumentation, Schulung) liegen erfahrungsgemäss bei 50.000 bis 150.000 Euro. Die KI-Systeme selbst werden über KHZG-Fördermittel finanziert. Die laufenden Kosten für Monitoring und Compliance hängen von der Anzahl eingesetzter Systeme ab.

Lesetipps der Redaktion

• 1.451 KI-Medizinprodukte in den USA zugelassen – Europa hat nicht einmal eine Liste (MBF)
• ePA im Krankenhaus: Nur 40 Prozent pilotieren (MBF)