Souveräne KI: die Verantwortung bleibt im Haus

Wer ein KI-Modell in den produktiven Betrieb nimmt, trägt die Verantwortung für sein Verhalten, seine Risiken und seine Pflege. Dass es ein neues deutsches Modell aus einem geförderten Konsortium ist, ändert daran nichts. Der CIO kann diese Verantwortung nicht an die Herkunft oder an eine offene Lizenz abgeben. Souveränität zeigt sich darin, wie eine Organisation den Einsatz steuert, kontrolliert und belegt.

Verwandt:Souveräne Cloud: Wann sich der Aufpreis rechnet  /  Muse Spark zwingt CIOs zur Neubewertung

Governance steht vor der Modellauswahl

Viele Organisationen beginnen die Bewertung eines neuen Modells bei der Leistung. Damit fangen sie am falschen Ende an. Zuerst müssen die eigenen Governance-Strukturen stehen. Ein Konsortialmodell wie das jüngst vom Soofi-Projekt vorgestellte entsteht im Zusammenschluss mehrerer Forschungseinrichtungen und Unternehmen. Die Entscheidung für den Einsatz betrifft deshalb nicht allein die IT. Sie berührt Compliance, die Rechtsabteilung und am Ende den Vorstand.

Der EU AI Act verlangt Transparenz, Risikoklassifizierung und menschliche Aufsicht. Diese Pflichten gelten unabhängig davon, ob ein Modell aus einem öffentlich geförderten Projekt stammt. Interne Policies müssen festlegen, welche Anwendungsfälle ein Modell mit begrenzter kommerzieller Reife überhaupt betreten darf. Fehlt diese Festlegung, entsteht der Konflikt später, wenn ein Fachbereich das Modell produktiv nutzen will und die rechtliche Grundlage nicht geklärt ist.

Dazu kommt die Haftung. Ein kommerzieller Anbieter räumt vertraglich geregelte Haftungsgrenzen ein. Bei einem Konsortium ist die Zuordnung weniger eindeutig, weil die Verantwortung auf mehrere Institutionen verteilt liegt. Ein CIO sollte früh klären, welche Risiken die Organisation selbst trägt und welche sich über Verträge abdecken lassen.

Eine offene Lizenz verschiebt die Abhängigkeit. Sie beseitigt sie nicht.

Betriebs- und Integrationsverantwortung klären

Der Einbau in eine bestehende IT-Landschaft ist mehr als eine Frage der technischen Kompatibilität. Es geht darum, wer für Verfügbarkeit, Sicherheitspatches und die Anpassung an neue Auflagen zuständig ist. Ein Forschungs-Konsortium ist nicht auf langfristigen Betriebssupport ausgelegt. Die Förderung durch das Bundeswirtschaftsministerium und die EU-Mittel enden zu einem festen Zeitpunkt. Danach muss jemand die Verantwortung übernehmen.

In der Praxis gehen viele Teams von der offenen Lizenz aus und nehmen an, sie könnten das Modell selbst weiterführen. Ohne eigene Kapazitäten für Feintuning, Sicherheitsprüfung und Monitoring entsteht daraus schnell eine neue Abhängigkeit. Sie richtet sich diesmal nicht gegen einen einzelnen Anbieter, sondern gegen den Fortbestand der beteiligten Institutionen oder die Bereitschaft einer Community, das Modell zu pflegen.

Interne Steuerungsfähigkeit aufbauen

Souveränität bedeutet, dass die Organisation selbst entscheidet, wie das Modell eingesetzt wird, welche Daten es verarbeitet und wann es angepasst oder abgelöst wird. Dafür braucht es Rollen und Prozesse, die diese Entscheidungen tragen. Oft sitzt die Kompetenz bei wenigen Spezialisten in der IT. Der Fachbereich kennt die Anforderungen, der Vorstand die strategischen Risiken. Ohne klare Rollenverteilung entstehen genau dazwischen die Lücken.

Strukturprobleme zeigen sich, wenn keine Instanz definiert ist, die über den Einsatz in einem neuen Anwendungsfall entscheidet. Personenprobleme zeigen sich, wenn ein einzelner Experte ausfällt und niemand die Kontrolle übernehmen kann. Beides gehört gleichzeitig adressiert. Der Aufbau von Steuerungsfähigkeit verlangt daher zweierlei: definierte Entscheidungsrechte und gezielten Kompetenzaufbau in den Teams, die das Modell tragen.

Das Soofi-Projekt nennt als Ziel die volle Kontrolle über Daten, Provenienz und Infrastruktur. Für den Anwender heißt das, selbst zu prüfen, ob diese Kontrolle in der eigenen Organisation überhaupt ankommt. Ein Modell aus einem Konsortium zu beziehen, ohne eigene Mechanismen zur Überwachung von Datenflüssen und Modellversionen aufzubauen, verlagert die Abhängigkeit nur an eine andere Stelle.

Nachweispflicht und Auditierbarkeit in der Praxis

Revision, Aufsicht und Kunden fragen zunehmend, wie eine Organisation die Kontrolle über ihre KI-Systeme tatsächlich ausübt. Die Aussage, ein Modell sei souverän, weil es in Europa entwickelt wurde, trägt in einem Audit nicht. Der CIO muss belegen können, welche Daten ins Training geflossen sind, wie Änderungen dokumentiert werden und welche Kontrollmechanismen im laufenden Betrieb greifen.

Gerade bei Modellen aus Forschungskontexten ist die Dokumentation von Trainingsdaten und Verfahren oft nicht in dem Umfang vorhanden, den eine Auditierung verlangt. Diese Lücke hat auch die Fachcommunity beim Soofi-Report angemerkt. Für den Anwender bleibt die Frage, ob er die Angaben des Konsortiums unabhängig verifizieren kann und welche Schlüsse er für die eigene Risikobewertung zieht.

Ohne belastbare Nachweise gegenüber internen Prüfern oder externen Stellen bleibt Souveränität eine Behauptung. Der Aufbau von Audit-Trails und die Fähigkeit, auf Anfrage detaillierte Auskunft zu geben, gehören daher von Beginn an in die Integrationsplanung. In regulierten Branchen, in denen die Aufsicht konkrete Belege verlangt, entscheidet dieser Punkt über die Genehmigung.

Die Gegenposition

Das stärkste Gegenargument wiegt schwer: Ein öffentlich gefördertes, permissiv lizenziertes Modell aus einem breiten europäischen Konsortium ist bereits ein Fortschritt gegenüber proprietären Alternativen. Es senkt die Abhängigkeit von einzelnen ausländischen Anbietern und eröffnet die Möglichkeit zur eigenen Anpassung. Dieses Argument gilt, solange die Alternative wirklich weniger Kontrolle bietet. Es übersieht nur einen Punkt: Die formale Verfügbarkeit eines Modells begründet noch keine operative Kontrolle in der eigenen Organisation. Genau die muss der CIO herstellen.

Der 90-Tage-Handlungsimpuls

In den ersten 30 Tagen stellt ein Team aus IT, Legal, Compliance und einem Fachbereichsvertreter einen Kriterienkatalog auf. Er hält fest, welche Anforderungen an Datenprovenienz, Update-Prozesse, Eskalationspfade und Nachweise in der eigenen Organisation gelten. Verantwortlich zeichnet der CIO als Sponsor, die operative Leitung liegt beim CISO.

In den zweiten 30 Tagen entsteht eine Abhängigkeitsmatrix der laufenden KI-Einsätze. Sie führt pro System den fachlichen Eigentümer, die Eskalationsstufe im Störfall und den vorhandenen oder fehlenden Nachweis über Datenherkunft und Kontrolle. Die Matrix macht sichtbar, wo heute schon niemand benannt ist, der im Zweifel geradesteht.

In den letzten 30 Tagen werden für ein ausgewähltes Pilot-Szenario die ersten vertraglichen und organisatorischen Maßnahmen definiert. Dazu gehört die Klärung, wer bei einem Modellwechsel oder einer Sicherheitslücke innerhalb von 48 Stunden handlungsfähig ist und wie sich diese Handlungsfähigkeit belegen lässt.

Häufig gestellte Fragen

Mehr aus dem MBF Media Netzwerk

Bildquelle: KI-generiert (Juli 2026)