KI greift in Prozesse ein: Wer ist hier zuständig?

Gastbeitrag

Wenn KI Bewerbungen vorsortiert oder Kundenanfragen zusammenfasst, verschwimmt die Zuständigkeit zwischen Fachbereich, IT und Modellanbieter. Gastautor André Holhozinskyj, CEO der Cloudflight Group, macht Verantwortung deshalb am Geschäftsprozess fest und liefert vier Prüffragen für jeden relevanten KI-gestützten Prozess.

Verwandt87% mehr KI-Budget, 14% klare Verantwortung  /  Erst die Entscheidungsthese, dann das Organigramm

Wer trägt die Verantwortung, wenn KI in einen Geschäftsprozess eingreift? In der Praxis lässt sich diese Frage oft schwer beantworten.

Ein KI-System sortiert Bewerbungen vor, fasst Kundenanfragen zusammen oder bereitet Strategiepapiere auf. Der Prozess gehört dem Fachbereich, die Anwendung betreibt die IT und das Modell kommt von einem externen Anbieter. Wer verantwortet das Ergebnis?

Hier geraten klassische Organisationsstrukturen an ihre Grenzen. KI wird als eigenständige Anwendung eingeführt und steckt zunehmend auch in bestehender Software. Dort verändert sie einzelne Arbeitsschritte, Entscheidungen und Zuständigkeiten. Damit verändern sich die Anforderungen an Governance. Unternehmen müssen über die Zuständigkeit für jedes neue KI-Tool hinaus klären, wer für einen Prozess verantwortlich bleibt, wenn KI einen Teil davon übernimmt.

Eine ähnliche Logik liegt dem EU AI Act zugrunde: Verantwortung und Pflichten hängen auch von der konkreten Rolle des Unternehmens ab. Diese entscheidet darüber, ob es als Anbieter oder Betreiber eines KI-Systems gilt. Unternehmen, die einen Chatbot einkaufen und auf der eigenen Website einsetzen, haben andere Pflichten als solche, die denselben Chatbot unter eigenem Namen weitergeben. Dieselbe Software kann damit unterschiedliche Verantwortlichkeiten auslösen.

KI verändert Zuständigkeiten im Prozess

Neue Software lässt sich organisatorisch zunächst leicht einordnen. Ein Unternehmen kauft sie ein, benennt einen Owner und definiert Zugriffsrechte.

Bei KI funktioniert dieses Prinzip immer schlechter. Wenn ein Agent auf Unternehmensdaten zugreift und anschließend selbst einen Prozessschritt anstößt, verändert er bestehende Abläufe. Damit geht sein Einsatz über ein isoliertes KI-Projekt hinaus und macht die Governance anspruchsvoller. Der Verantwortliche für das Tool und derjenige, der für das Ergebnis des Prozesses geradesteht, können unterschiedliche Personen sein.

Zwischen IT und Fachbereich droht eine Verantwortungslücke

Nehmen wir einen Kundenservice, in dem KI Anfragen klassifiziert und Antworten vorbereitet. Die IT kann festlegen, welches Modell verwendet wird, welche Daten zugänglich sind und welche Sicherheitsvorgaben gelten. Was eine gute Kundenantwort ist, beurteilt der Fachbereich.

Er kennt den Prozess, die Kunden und die Regeln, nach denen eine Anfrage behandelt werden muss. Möglicherweise liegt die Entscheidung über das eingesetzte Modell, die verarbeiteten Daten oder die erlaubten Aktionen jedoch außerhalb seiner Zuständigkeit.

So entsteht eine Lücke zwischen technischer und fachlicher Verantwortung. Sie wird größer, je stärker KI in den eigentlichen Ablauf eingreift.

Das Risiko hängt vom Geschäftsprozess ab

Ein Owner für jedes KI-System allein schließt diese Lücke noch nicht. Dasselbe Werkzeug kann in verschiedenen Bereichen völlig unterschiedliche Folgen haben.

Ein Modell, das interne Texte zusammenfasst, ist anders zu beurteilen als dasselbe Modell, das Bewerbungen vorsortiert. Wieder andere Folgen hat es, wenn das Modell Bestellungen auslöst.

Technisch kann dahinter dasselbe Modell stehen. Für das Unternehmen sind es trotzdem drei verschiedene Anwendungen, weil drei verschiedene Geschäftsprozesse betroffen sind.

Deshalb sollte der Prozess, in dem KI eingesetzt wird, die zentrale Einheit für die Organisation von Verantwortung sein. Mit dem Prozess verändert sich auch die Frage, was die KI überhaupt tun darf.

Agenten brauchen klare Handlungsgrenzen

Mit Agenten wird aus der Zuständigkeitsfrage eine Strategiefrage. Je mehr Handlungsspielraum ein System erhält, desto genauer muss festgelegt sein, wo dieser endet. Das betrifft technische Berechtigungen ebenso wie die Geschäftslogik.

Darf ein Agent einen Kunden informieren? Darf er einen Auftrag auslösen? Darf er einen Preis verändern? Darf er eine Entscheidung selbst treffen oder nur vorbereiten?

Ein zentraler KI-Owner kann diese Fragen nicht für das gesamte Unternehmen beantworten. Die Antworten gehören dorthin, wo der jeweilige Geschäftsprozess verantwortet wird.

Erwartungen und Umsetzung liegen weit auseinander

Wie groß die Lücke zwischen technischer Möglichkeit und organisatorischer Umsetzung ist, zeigt eine aktuelle Agentic-AI-Studie von Cloudflight, dem Unternehmen des Autors.

Laut dieser Studie erwarten 86 Prozent der befragten Führungskräfte einen signifikanten oder transformierenden Einfluss agentischer KI. Gleichzeitig befinden sich erst 11 Prozent der Unternehmen in einer fortgeschrittenen Umsetzung. 71 Prozent sehen noch keinen klaren Business Case.

Der Abstand zwischen den Erwartungen und der Umsetzung ist groß. Unternehmen sollten deshalb klären, welche Prozesse sich für agentische KI eignen, welchen Handlungsspielraum sie dort erhalten soll und wer dafür geradesteht.

Wer diese Fragen heute beantwortet, schafft die Voraussetzungen für den nächsten Schritt. Zugleich verhindert er, dass Verantwortung erst dann geklärt wird, wenn bereits etwas schiefgegangen ist.

Checkliste für Digital Chiefs

Für jeden relevanten KI-gestützten Prozess sollten Unternehmen vier Fragen beantworten:

• Wo greift KI in den Prozess ein?
• Was darf sie dort entscheiden oder auslösen?
• Wer verantwortet das Ergebnis?
• An welcher Stelle muss ein Mensch übernehmen können?

Diese Inventur schafft Klarheit darüber, wo KI im Unternehmen bereits Verantwortung verändert.

Häufig gestellte Fragen

Bildquelle: KI-generiert (Oktober 2026). Porträt: Cloudflight