8 Min. Lesezeit

SAP hat im Januar 2024 Philipp Herzig zum Chief AI Officer ernannt – direkt an CEO Christian Klein berichtend. Siemens holte im Juli 2025 Vasi Philomin von AWS, um Industrial AI zu skalieren. 60 Prozent der US-Großunternehmen haben laut Wharton bereits einen CAIO oder eine äquivalente Funktion. Aber MIT Sloan warnt: „Do You Really Need a Chief AI Officer?“ Die Antwort ist weniger eindeutig als die Stellenausschreibungen suggerieren. Deutschland braucht keine neue Abkürzung im Organigramm. Es braucht eine klare Antwort auf die Frage: Wer ist verantwortlich?

Das Wichtigste in Kürze

Die Zahlenlage: Wie viele CAIOs gibt es wirklich?

Die Adoptionszahlen für den CAIO widersprechen sich – und genau darin liegt die erste Erkenntnis. Der Wharton/GBK AI Adoption Report 2025 (800 US-Unternehmen, mindestens 1.000 Mitarbeiter) kommt auf 60 Prozent. IBM misst weltweit 26 Prozent (gegenüber 11 Prozent zwei Jahre zuvor). Gartner prognostizierte im Oktober 2024, dass bis Ende 2025 35 Prozent der Großunternehmen einen CAIO haben werden.

Die Wharton-Studie liefert die Erklärung für die Diskrepanz: „In vielen Fällen handelt es sich um eine zusätzliche Zuständigkeit eines bestehenden Executives, nicht um eine neue Headcount-Position.“ Der CTO, der jetzt auch für KI zuständig ist, zählt als CAIO. Der CDO, der ein KI-Projekt leitet, zählt als CAIO. Die echte Frage ist nicht, wie viele Unternehmen einen CAIO haben, sondern wie viele eine dedizierte, vollzeit-verantwortliche KI-Führungsperson auf C-Level installiert haben. Diese Zahl ist deutlich niedriger als 60 Prozent.

Für den deutschen Markt fehlen vergleichbare Daten. Was bekannt ist: Nur 36 Prozent der deutschen Unternehmen nutzen laut Bitkom 2025 KI aktiv. 53 Prozent nennen rechtliche Unsicherheit und fehlendes Know-how als Haupthemmnisse. Für die meisten deutschen KMU ist ein CAIO strukturell und finanziell nicht sinnvoll. Die Frage ist: Für wen ist er es?

Quellen: Wharton AI Adoption Report 2025, IBM IBV CDO Study 2025, BCG AI Radar Januar 2025

SAP und Siemens: Zwei deutsche Modelle

SAP hat im Januar 2024 Dr. Philipp Herzig zum Chief Artificial Intelligence Officer ernannt – mit direktem Reporting an CEO Christian Klein. Herzigs Zuständigkeit umfasst die gesamte Wertschöpfungskette für SAP Business AI: von Produktentwicklung und Forschung bis zur Kundenimplementierung. Er koordiniert die cross-funktionale KI-Integration in das gesamte SAP-Portfolio. 2025 übernahm Herzig zusätzlich die Rolle des globalen CTO. CAIO und CTO in Personalunion – das zeigt, dass SAP KI nicht als Sonderprojekt betrachtet, sondern als Kern der Technologiestrategie.

Siemens wählte einen anderen Weg: Im Juli 2025 holte der Konzern Vasi Philomin von AWS, wo er als VP für Generative AI mitverantwortlich für Amazon Bedrock war. Sein Titel bei Siemens: Executive Vice President und Head of Data and Artificial Intelligence – kein formaler „CAIO“-Titel, aber eine dedizierte Vollzeit-KI-Führungsrolle auf Senior-Executive-Ebene. Er berichtet an Peter Koerte (CTO und CSO im Siemens-Vorstand) und soll ein industrielles Foundation Model für Siemens-Kunden aufbauen. Das Recruiting von AWS signalisiert den Anspruch: Siemens will KI nicht intern entwickeln, sondern auf dem gleichen Niveau operieren wie die Hyperscaler.

Die Deutsche Telekom verfolgt einen verteilten Ansatz ohne dedizierten CAIO: eigene KI-Leitlinien seit 2018, eine „KI-Fabrik-Strategie“ für Europa und KI-Governance als Committee-Thema. Bosch hat ebenfalls keinen CAIO auf Vorstandsebene. Beide Unternehmen zeigen: Der Verzicht auf einen CAIO-Titel bedeutet nicht automatisch, dass KI-Führung fehlt – aber es macht die Accountability-Frage schwieriger zu beantworten.

Warum die Rolle Sinn machen kann: Drei Argumente

Argument 1: Die Skalierungslücke. McKinsey State of AI 2025 (circa 1.500 Organisationen befragt) zeigt: 88 Prozent nutzen KI regelmäßig, 79 Prozent nutzen generative KI. Aber nur ein Drittel hat KI unternehmensweit skaliert. Der entscheidende Hebel ist Workflow-Redesign – nur 21 Prozent der Unternehmen, die generative KI nutzen, haben auch Workflows neu gestaltet. Das passiert ohne dedizierten Treiber kaum, weil es die Zusammenarbeit über Abteilungsgrenzen hinweg erfordert. CEO-Ownership von Gen-AI-Governance korreliert laut McKinsey am stärksten mit dem EBIT-Impact und 30 Prozent der Organisationen machen den CEO direkt verantwortlich – doppelt so viele wie ein Jahr zuvor. Aber CEOs haben weder die Zeit noch das Fachwissen, KI operativ zu steuern. Ein CAIO füllt diese Lücke.

Argument 2: Die 70-20-10-Formel. BCG (Januar 2025, 2.400 Executives befragt) hat eine klare Formel: Erfolgreiche KI-Implementierung ist zu 70 Prozent Menschen, Prozesse und Kultur, zu 20 Prozent Daten und Technologie und zu 10 Prozent Algorithmen. Nur 25 Prozent der Unternehmen erzielen messbaren Wert aus ihren KI-Investitionen, obwohl 75 Prozent KI als Top-3-Priorität einordnen. Die kulturelle Transformation, die BCG als 70-Prozent-Hebel identifiziert, braucht eine verantwortliche Führungsperson. AI Leader verzeichnen laut BCG (September 2025) doppeltes Umsatzwachstum und 40 Prozent mehr Kosteneinsparungen als AI Laggards.

Argument 3: Der regulatorische Druck. Der EU AI Act erzwingt Board-Level-Accountability. Seit Februar 2025 gilt die AI-Literacy-Pflicht (Artikel 4): Alle Personen, die mit KI-Systemen befasst sind, müssen über ausreichende Kompetenz verfügen. Ab August 2026 gelten die Vollpflichten für Hochrisiko-KI: Aufsicht, Logging, Risikomanagement und menschliche Aufsicht müssen nachgewiesen werden. Boards tragen Treuhandpflichten – wer KI-Compliance bewusst ignoriert, riskiert persönliche Haftung. Ein CAIO schafft die klare Accountability, die der AI Act verlangt, ohne sie explizit zu fordern.

Warum die Rolle schaden kann: Die Gegenargumente

MIT Sloan Management Review hat im August 2024 die wohl differenzierteste Gegenposition veröffentlicht. Die Kernargumente: Cross-funktionale Rollen wie der CAIO sind notorisch schwer zu navigieren und erzeugen C-Suite-Konflikte mit CIO, CTO, COO und CDO. Forschung zeigt, dass mehrere parallele Tech-Leadership-Rollen die Rollenklarheit verschlechtern. Das „Alphabet Soup“-Problem ist real: Mitarbeitende wissen oft nicht, was diese Rollen eigentlich tun.

Dazu kommt das „Hammer-Nagel-Problem“: Ein CAIO neigt dazu, KI als Lösung für jedes Problem zu sehen, statt Probleme mit dem besten verfügbaren Werkzeug zu lösen. Und sobald KI als normaler Teil der Arbeitsweise akzeptiert ist, sinkt der Bedarf an einem CAIO. MIT Sloan empfiehlt deshalb, den CAIO nicht als permanente Rolle zu sehen, sondern als temporären Transformationsagenten mit klarem Exitpunkt.

Google und Microsoft liefern den praktischen Beweis: Beide Unternehmen verfolgen eine „AI-First“-Strategie, haben aber keinen CAIO ernannt. Stattdessen haben sie KI als Kernelement in die bestehenden C-Level-Mandate integriert. Für Unternehmen, bei denen KI zum Kerngeschäft gehört (Tech-Konzerne, Plattformen), funktioniert das. Für Industrieunternehmen, die KI als Werkzeug einsetzen, ist der Fall anders gelagert – dort braucht die KI-Transformation oft einen dedizierten Treiber, weil die bestehenden Führungskräfte bereits mit Cloud-Migration, Legacy-Ablösung und Fachkräftemangel ausgelastet sind.

Fünf Modelle: Welches passt zu welchem Unternehmen?

Modell 1: Dedizierter CAIO (SAP-Modell). Vollzeit-C-Level-Funktion mit direktem CEO-Reporting. Sinnvoll für Unternehmen, bei denen KI zum Kernprodukt gehört oder die Geschäftsmodelltransformation durch KI getrieben wird. Kosten: 300.000 bis 700.000 Euro Totalcompensation im DAX-Umfeld. Risiko: Silobildung, wenn die Abgrenzung zu CTO und CDO nicht klar definiert ist.

Modell 2: Hybrid CAIO/CTO (SAP 2025). Philipp Herzig hat bei SAP inzwischen beide Rollen übernommen. Vorteil: Keine Silobildung zwischen Technologie und KI. Risiko: Überlastung, wenn beide Mandate echtes Vollzeit-Engagement erfordern. Passend für Unternehmen, in denen KI und Technologiestrategie ohnehin zusammenwachsen.

Modell 3: AI Center of Excellence (Deutsche-Bank-Modell). Ein zentrales Team aus KI-Spezialisten, das als interner Dienstleister fungiert. Laut Analysen sind gut strukturierte AI CoEs 2,6-mal wahrscheinlicher, KI unternehmensweit zu skalieren. Aber sie werden häufig zum Flaschenhals – das Problem liegt im Governance-Design. Sinnvoll für große Organisationen mit vielen Geschäftsbereichen, die KI dezentral einsetzen wollen.

Modell 4: AI Committee auf Board-Ebene. Ein dediziertes Aufsichtsrats- oder Vorstandskomitee überwacht KI-Strategie und Compliance. Schafft Accountability ohne neue C-Level-Funktion und neue Gehaltskosten. Passend für mittelgroße Unternehmen, die den regulatorischen Anforderungen des AI Act genügen wollen, ohne ein CAIO-Budget zu stemmen.

Modell 5: Verteilte KI-Governance (Google/Microsoft-Modell). Kein CAIO, stattdessen KI als integraler Teil aller C-Level-Mandate. Funktioniert bei Unternehmen, wo KI zum Kerngeschäft gehört. Schwieriger bei Unternehmen, wo KI sich erst transformativ durchsetzt – dort fehlt ohne dedizierten Treiber oft der Impuls zur Skalierung.

Was deutsche Vorstände jetzt entscheiden müssen

Erstens: Die Accountability-Frage beantworten. Der EU AI Act verlangt keine bestimmte Rolle, aber er verlangt Accountability. Wer ist im Vorstand für KI-Compliance verantwortlich? Wer billigt die Risikomaßnahmen? Wer überwacht die Umsetzung? Wenn die Antwort „der CTO macht das mit“ lautet, ist die Accountability nicht klar genug. Der Reboot braucht klare Verantwortlichkeiten, keine verteilten Zuständigkeiten.

Zweitens: Das richtige Modell wählen. Für DAX-Konzerne mit KI als Kernstrategie: dedizierter CAIO oder Hybrid-Modell. Für den gehobenen Mittelstand (500 bis 5.000 Mitarbeiter): AI Committee oder AI CoE. Für KMU: Die Accountability-Frage dem Geschäftsführer persönlich zuordnen und externe Expertise einkaufen. Es gibt kein Einheitsmodell – aber es gibt eine Mindestanforderung: jemand muss verantwortlich sein.

Drittens: KI-Kompetenz im Aufsichtsrat sicherstellen. McKinsey zeigt: CEO-Ownership von KI-Governance korreliert am stärksten mit EBIT-Impact. Aber der Aufsichtsrat muss die KI-Entscheidungen des Vorstands bewerten können. Wenn niemand im Aufsichtsrat versteht, was ein Foundation Model ist oder warum Bias-Monitoring wichtig ist, wird die Aufsicht zur Formalität. Die AI-Literacy-Pflicht des AI Act gilt sinngemäß auch für Kontrollgremien.

Viertens: Den CAIO als Transformationsrolle denken, nicht als Dauerposition. MIT Sloan hat recht: Sobald KI als normaler Teil der Arbeitsweise verankert ist, braucht es keinen dedizierten KI-Chef mehr. Der CAIO ist ein Transformationsagent mit einem klaren Auftrag: KI in Prozesse, Produkte und Kultur integrieren. Wenn das gelungen ist, kann die Rolle in CTO oder COO aufgehen. SAP hat genau das getan: Herzig ist jetzt CAIO und CTO in einem. Die Transformation hat die Rolle absorbiert.

Die Talent-Frage bleibt die größte Herausforderung: 46 Prozent der Unternehmen nennen laut McKinsey fehlende KI-Skills als größte Bremse für schnellere KI-Entwicklung. Die Karrierepfade für CAIOs kommen aus zwei Richtungen: Technology-Seite (ML/AI Engineering plus Product Leadership, wie Herzig bei SAP) oder Business-Seite (Strategie plus Digitalisierung plus Data Analytics, oft CDO-Hintergrund). Internationale Business Schools wie Chicago Booth, Cornell und Carnegie Mellon bieten bereits explizite CAIO-Zertifizierungsprogramme an. Für den deutschen Markt bedeutet das: Die nächste Generation von KI-Führungskräften wird im Ausland ausgebildet, wenn deutsche Institutionen nicht nachziehen. Das ist ein Standortthema, kein HR-Problem.

Häufige Fragen

Weiterlesen

• KI-Governance im Vorstand: Zwischen Innovation und Regulierung
• Fachkräftemangel als CEO-Aufgabe: Strategien jenseits von Recruiting
• Reboot Germany: 735 Milliarden, drei Mittelständler und die Frage, ob die Krise wirklich so schlimm ist

Häufige Fragen

Quelle Titelbild: Pexels / Matheus Bertelli (px:8386440)