Token-OPEX: Inference steuert, nicht das Seat-Budget

15.07.2026

9 Min. Lesezeit

Token-Kosten sind keine Feature-Line im SaaS-Vertrag. Sie sind variable OPEX pro Workflow – und in vielen DACH-Organisationen ohne Cost-Tag, ohne Limit und ohne Owner. Genau dort entsteht Shadow-AI-Spend, bevor die nächste Earnings-Runde der Software-Anbieter denselben Hebel freilegt.

Das Wichtigste in Kürze

Einheit wechseln. Cost-per-Outcome pro agentischem Workflow statt eines pauschalen „KI-Budget gesamt“ – mit Token- und Runtime-Anteil.
Shadow-AI ist FinOps-Thema. Wer Copilot und Agents ohne Kostenstelle freischaltet, bucht Inference gegen den Zufall.
Managed-Service-Grenze ziehen. Wer darf Limits setzen, wer darf sie überstimmen – IT, Fachbereich oder ein gemeinsames AI-FinOps-Duo.

VerwandtDrei KI-Budgets, keine gemeinsame Rechnung / Quantencomputing: Die Lösung für den Energiehunger von KI?

Die Debatte um KI-Budgets ist in vielen Häusern angekommen: drei Töpfe, keine gemeinsame Rechnung, Capex für Infrastruktur hier, SaaS dort. Was oft fehlt, ist die dritte Schicht – die variable Inference. Sie skaliert mit Nutzung, nicht mit Vertragslaufzeit. Sie taucht in Vendor-Dashboards auf, selten in der internen Kostenstelle. Und sie macht agentische Workflows teurer, sobald „so viel AI wie möglich“ die Default-Policy ist.

Das ist kein abstrakter FinOps-Exkurs. Software-Anbieter mit AI-Features tragen Token- und GPU-Kosten in ihre Margen. Wenn diese Kosten steigen oder unvorhersehbar werden, reagieren Pricing, Caps und Feature-Gates. Wer intern keine eigene Token-Governance hat, übernimmt die Vendor-Logik ungefiltert – plus den Wildwuchs aus Schatten-Accounts.

Cost / Outcome

Die Board-taugliche KPI für agentische KI: Euro pro erledigtem Geschäftsvorfall als Board-KPI.

Einordnung Digital Chiefs – FinOps-for-AI Operating Model

Was Token-OPEX von den drei KI-Budgets unterscheidet

Der Bestand hat die Fragmentierung der KI-Töpfe bereits beschrieben. Hier geht es um die Verrechnungseinheit. Capex für Cluster und SaaS-Sitze sind planbar im Jahreszyklus. Token und Inference-Minuten sind verbrauchsgetrieben. Ein Agent, der in einer Nacht tausend Dokumente parst, erzeugt eine andere Kostenkurve als zehn Lizenzen für einen Copilot-Seat.

Ohne Tags sieht die Rechnung aus wie „Cloud ist teurer geworden“. Mit Tags sieht man: welcher Workflow, welches Modell, welcher Fachbereich, welcher Outcome. Das ist der Unterschied zwischen Budget-Debatte und Steuerungsfähigkeit.

FinOps-Foundation-Material und Vendor-Cost-Dashboards liefern die technischen Hebel – Spend-Limits, Budgets pro Projekt, Alerting. Der organisatorische Hebel ist härter: Wer darf einen agentischen Workflow freischalten, ohne dass FinOps oder IT den Cost-Tag gesetzt hat?

Operating Model: vier Rollen, eine Freigabe-Regel

Rolle	Verantwortet	Darf nicht allein
Fach-Owner	Outcome-Definition, Qualitätskriterien, Abnahme	Modellwahl ohne Cost-Cap
AI-Platform / IT	Modellkatalog, Logging, Sicherheits-Gates	Budget-Override ohne CFO-Pfad
FinOps / Controlling	Tags, Limits, Monats-Forecast, Escrow	Outcome-Bewertung ohne Fach-Owner
Managed-Service-Partner	Betrieb, Alerting, Runbooks – wenn beauftragt	Freischaltung neuer Agents ohne interne Freigabe

Freigabe-Regel: kein produktiver Agent ohne Cost-Tag, Outcome-KPI und Limit-Owner

Managed Services werden hier oft falsch eingesetzt. Der Partner betreibt die Pipeline – und die Rechnung landet als „Betriebspauschale“, während Token-Spikes unsichtbar im Hyperscaler-Account stecken. Die saubere Trennung: Fixum für Plattform-Betrieb, variable Inference transparent durchgereicht oder als Cap im Vertrag.

Drei Steuerungshebel die in 30 Tagen greifen

1. Tagging erzwingen. Jeder produktive Call braucht Projekt-, Workflow- und Owner-Tag. Calls ohne Tag laufen in eine Quarantäne-Queue oder sterben am Gateway. Das ist unangenehm – und genau deshalb wirksam.

2. Limits vor Features. Neue Agent-Fähigkeiten starten mit Tages- und Monatscap. Wer skaliert, beantragt Limit-Erhöhung mit Outcome-Nachweis der letzten zwei Wochen. Nicht mit einer Demo-Folie.

3. Escrow für Spikes. Ein kleiner, zentraler Puffer deckt legitime Lastspitzen ab, ohne dass jedes Team „auf Sicherheit“ überbucht. Der Puffer hat einen Owner im Controlling und eine wöchentliche Verbrauchsliste.

DACH-Realität: Betriebsrat, Datenschutz, Einkauf

Token-Governance ist nicht nur Controlling. Logging von Prompts und Outputs berührt Datenschutz und oft Mitbestimmung. Wer Cost-Tags einführt, ohne den Betriebsrat und den Datenschutz früh einzubinden, baut die nächste Blockade selbst. Der pragmatische Pfad: Metriken und Kosten-IDs zuerst, Inhalts-Logs nur wo rechtlich und organisatorisch freigegeben.

Einkauf denkt in Rahmenverträgen und Seats. Token-OPEX verlangt Zusatzklauseln: Preistransparenz, Cap-Optionen, Exit bei Preissprüngen, Weitergabe von Vendor-Cost-Änderungen. Ohne diese Klauseln bleibt der „AI-Deal“ ein Sitzplatz-Vertrag mit versteckter Verbrauchskomponente.

Die Peer-Frage ist einfach: Würdest du einem anderen CIO deinen aktuellen Token-Spend pro Kern-Workflow nennen können – mit Owner und Cap? Wenn nein, ist die nächste Vendor-Earnings-Story nur der Spiegel einer Lücke, die intern schon besteht.

Häufig gestellte Fragen

Ist Cost-per-Outcome nicht zu ungenau für echte Steuerung?

Am Anfang ja – und trotzdem besser als Tokens ohne Kontext. Starte mit wenigen Kern-Workflows und stabilisiere die Outcome-Definition, bevor du die Kennzahl unternehmensweit rollst.

Reichen Vendor-Budgets in Azure/OpenAI-Portalen?

Als Technik ja, als Governance nein. Interne Ownership, Freigabe und Managed-Service-Grenzen müssen darüber liegen – sonst steuert der Vendor-Default.

Was ist mit lokalen Modellen zur Kostenkontrolle?

On-Prem oder private Instanzen verschieben Kosten in Capex und Strom. Die Steuerungslogik bleibt: pro Workflow messen, Caps setzen, Outcome vergleichen.

Wie verhält sich das zu getrennten Fachbereichs-Budgets?

Fachbudgets bleiben. Neu ist die gemeinsame Token-Schicht mit Tags und Caps, damit drei Töpfe nicht dieselben Spikes ungesehen multiplizieren.

Welcher erste Schritt hat den höchsten Hebel?

Shadow-Keys inventarisieren und produktive Calls ohne Cost-Tag blocken. Alles andere baut auf einer sauberen Messbasis auf.

Weiterlesen auf Digital Chiefs

Digital ChiefsHardware schlägt Software-Deals – Capex neu sortieren Digital ChiefsDie Rechnung für zehn Jahre Insellösungen Digital ChiefsSouveräne KI: die Verantwortung bleibt im Haus

Mehr aus dem MBF Media Netzwerk