Deloitte: 14 Prozent der Firmen liefern ihr Sparziel voll
Tobias Massow
4 Min. Lesezeit Drei von vier Konzernen verkünden ihre Sparziele vor Investoren. Nur 14 Prozent haben ...
Zum Beitrag
6 Min. Lesezeit
Fast drei von vier Organisationen lassen autonome KI-Agenten an ihre Daten und Prozesse. Aber nur jede fünfte hat einen getesteten Notfallplan für den Moment, in dem ein Agent danebenliegt. Diese Lücke ist keine Tech-Frage. Sie ist eine Führungsfrage. Wer skaliert, ohne festzulegen, wer für das Ergebnis geradesteht, hat kein KI-Problem, sondern ein Governance-Vakuum.
Das Wichtigste in Kürze
- 74 Prozent skalieren Agenten, 20 Prozent sind vorbereitet. Die meisten geben autonomer KI Zugriff, ohne einen getesteten Notfallplan zu haben.
- Niemand haftet. CIO, CFO und COO entdecken Governance-Lücken, weil die Verantwortung für KI-Ergebnisse nie zugewiesen wurde.
- Der Vorstand fragt nach. Boards verlangen eine klare Sicht auf KI-Risiko und Haftung, gekoppelt an die Regulatorik.
Verwandt:Wie der Kapitalmarkt KI-Governance bewertet/Wer definiert, was die KI für wahr hält
Was Agentic AI von bisheriger KI unterscheidet
Was ist Agentic AI? Agentic AI bezeichnet KI-Systeme, die nicht nur antworten, sondern eigenständig handeln: Sie treffen Entscheidungen, rufen Werkzeuge auf, lösen Aktionen in anderen Systemen aus. Ein Agent bucht, bestellt oder ändert Daten, ohne dass ein Mensch jeden Schritt freigibt. Genau diese Autonomie macht die Haftungsfrage dringlich.
Ein klassisches Sprachmodell schlägt einen Text vor, ein Mensch prüft ihn. Ein Agent handelt. Der Unterschied klingt klein, verändert aber die Verantwortungskette grundlegend. Wenn ein Agent eine falsche Bestellung auslöst, einen Kunden falsch informiert oder Daten in ein System schreibt, das er nicht hätte berühren dürfen, gibt es keinen Zwischenschritt mehr, an dem jemand hätte eingreifen können. Der Fehler ist passiert, bevor ihn jemand gesehen hat.
Die aktuellen Zahlen zeigen, wie weit die Praxis der Kontrolle vorausgeeilt ist. Fast drei Viertel der Organisationen geben Agenten bereits Zugriff auf Daten und Kernprozesse, sei es im Pilot, im Skalieren oder im Produktivbetrieb. Nur rund 20 Prozent haben einen getesteten Plan für den Vorfall. Diese Schere ist das eigentliche Risiko, nicht die Technik selbst.
20 %
der Organisationen haben einen getesteten Notfallplan für den Fall, dass ein KI-Agent fehlerhaft handelt. 74 Prozent geben Agenten bereits Zugriff auf Daten und Prozesse.
Quelle: Branchen-Surveys zu Agentic AI, 2026
Warum die Verantwortung verschwindet
Das Muster ist aus jeder gescheiterten Transformation bekannt. Eine Technologie wird eingeführt, weil sie verfügbar ist und Wettbewerbsdruck herrscht. Die Zuständigkeit wird nachgereicht, irgendwann, wenn Zeit ist. Bei einem Werkzeug, das selbst handelt, ist dieses Nachreichen gefährlich. Der Agent wartet nicht, bis die Governance steht.
Im Konzern zeigt sich das als Abstimmungslücke zwischen den Funktionen. Der CIO sieht die technische Integration. Der CFO sieht die Kosten. Der COO sieht den Prozess. Keiner von ihnen besitzt automatisch die Frage, wer haftet, wenn der Agent in der Schnittmenge dieser drei Bereiche einen Fehler macht. Ohne eine bewusste Festlegung fällt diese Frage zwischen die Stühle, und genau dort bleibt sie liegen, bis ein Vorfall sie sichtbar macht.
Governance-Vakuum
- Agent skaliert, Zuständigkeit folgt später
- Kein getesteter Notfallplan
- Haftung fällt zwischen CIO, CFO und COO
Belastbare Aufstellung
- Ein benannter Eigentümer je Agenten-Einsatz
- Getesteter Incident-Plan vor dem Produktivbetrieb
- Klare Grenzen, worauf ein Agent zugreifen darf
Was der Vorstand jetzt verlangt
Die gute Nachricht ist, dass der Druck von oben kommt und damit eine Handhabe schafft. Boards fragen zunehmend nach einer klaren Sicht auf KI-Risiko und Haftung, verbunden mit den regulatorischen Anforderungen aus NIS2, DORA und dem EU AI Act. Diese Frage lässt sich nicht mit einer Folie beantworten, die Innovationsbereitschaft zeigt. Sie verlangt eine Festlegung: Wer besitzt welchen Agenten, welche Daten darf er anfassen, was passiert beim Fehler.
Für die Umsetzung zeichnet sich ein Muster ab. Statt Governance über die einzelnen Projekte zu verteilen, entsteht eine zentrale Schicht, die Kontrolle, Steuerung und Orchestrierung der Agenten bündelt. Ob man das ein Command Center nennt oder schlicht eine klare Zuständigkeit, ist zweitrangig. Entscheidend ist, dass es überhaupt eine Stelle gibt, die den Überblick hat und im Ernstfall den Stecker zieht.
Ein Agent, der handeln darf, aber keinen Eigentümer hat, ist kein Fortschritt. Er ist ein Risiko, das nur noch nicht aufgetreten ist.
Die Reihenfolge ist dabei die eigentliche Führungsentscheidung. Wer erst skaliert und dann die Verantwortung klärt, hat die Reihenfolge umgedreht und verlässt sich auf Glück. Wer vor dem Produktivbetrieb festlegt, wer haftet und was im Fehlerfall geschieht, verliert vielleicht zwei Wochen. Er gewinnt die Kontrolle über eine Technologie, die sonst schneller ist als die eigene Aufsicht. Diese zwei Wochen sind die günstigste Versicherung, die ein CIO derzeit kaufen kann.
Häufige Fragen
Was unterscheidet Agentic AI von bisherigen KI-Tools?
Bisherige KI schlägt vor, ein Mensch entscheidet. Ein Agent handelt eigenständig, ruft Werkzeuge auf und löst Aktionen in anderen Systemen aus. Damit entfällt der Zwischenschritt, an dem ein Fehler abgefangen werden könnte.
Wie groß ist die Lücke zwischen Einsatz und Absicherung?
Erheblich. Rund 74 Prozent der Organisationen geben Agenten Zugriff auf Daten und Prozesse, aber nur etwa 20 Prozent haben einen getesteten Notfallplan für den Fehlerfall.
Wer sollte für einen Agenten verantwortlich sein?
Jeder Agenten-Einsatz braucht einen benannten Eigentümer, der über Zugriff, Grenzen und Fehlerverhalten entscheidet. Ohne diese Zuweisung fällt die Haftung zwischen CIO, CFO und COO und bleibt ungeklärt.
Welche Rolle spielt die Regulatorik?
NIS2, DORA und der EU AI Act verlangen nachweisbare Kontrolle und Dokumentation. Ein Vorstand muss zeigen können, wie ein KI-System entscheidet und wer haftet. Das lässt sich nur mit einer klaren Governance erfüllen, nicht mit verteiltem Einsatz.
Bremst Governance die Einführung nicht aus?
Kaum. Die Festlegung von Eigentümer, Grenzen und Notfallplan kostet vor dem Produktivbetrieb wenig Zeit. Sie verhindert aber den teuren Vorfall, der eine ganze Initiative zurückwerfen kann. Kontrolle und Tempo schließen sich hier nicht aus.
Weiterlesen auf Digital Chiefs
Digital Chiefs725 Mrd. CapEx: Was die Hyperscaler-Wette für CIOs heißtDigital ChiefsGEO statt SEO: Sichtbarkeit in KI-Antworten als ChefsacheDigital ChiefsNvidia/Huang: Was 2,6 bis 3,4 Billionen Euro KI-CapEx für DACH-CIOs bedeutenMehr aus dem MBF Media Netzwerk
cloudmagazinVMware Cloud Foundation 9.1: KI-Workloads souverän im RZ mybusinessfuture16 Entscheider, ein KI-Rechercheur: B2B-Vertrieb unter Druck securitytodayDefender unter Beschuss: Zwei Zero-Days im SOC-BlindspotBildquelle: KI-generiert (Mai 2026), C2PA-Zertifikat im Bild hinterlegt