Der teuerste KI-Einsatz ist nicht der mit den meisten Tokens oder Credits. Es ist der Einsatz, dessen Ergebnis keinen relevanten Beitrag zum Geschäft leistet. Für Finanzdienstleistungsunternehmen wird deshalb eine andere Steuerungsfrage wichtig: Wie lässt sich KI so einsetzen, dass Kosten, Qualität, Risiko und organisatorisches Lernen gemeinsam betrachtet werden?
AI FinOps ist dafür mehr als Kostenkontrolle. Die Disziplin verbindet Transparenz über Nutzung und Kosten mit der Frage, welchen geschäftlichen Wert ein KI-Einsatz erzeugt. Das verändert auch die Rolle von Budgets, Limits und Governance: Sie sollen sinnvolle Nutzung ermöglichen und unproduktive oder riskante Nutzung begrenzen.
Kosten sind ein Signal aber noch keine Entscheidung
FinOps wird heute nicht mehr nur als Cloud-Kostenmanagement verstanden. Die FinOps Foundation beschreibt FinOps als operatives Framework und als kulturelle Praxis, die den Business Value von Technologie maximiert und finanzielle Verantwortlichkeit durch die Zusammenarbeit von Technologie, Finanzen und Fachbereichen schafft. Diese Perspektive lässt sich auf KI übertragen, ohne daraus vorschnell eine neue Spezialdisziplin zu machen. AI FinOps liefert damit den Steuerungsrahmen, um die in der Einführung beschriebene Frage nach sinnvollem KI-Einsatz in konkrete Entscheidungen über Nutzung, Wert, Risiko und Verantwortung zu übersetzen.
Cloud-FinOps-Prozess zur AI FinOps-Steuerung
Im klassischen Cloud-FinOps beginnt die Steuerung mit einer technischen Ressource. Finanzdienstleistungsunternehmen machen sichtbar, welche Ressourcen genutzt werden, ordnen sie Kostenstellen, Teams oder Produkten zu und suchen anschließend nach Optimierungsmöglichkeiten. Diese Logik bleibt für KI relevant, reicht aber nicht mehr aus, sobald die Wahl des Modells und die Gestaltung des Nutzungskontexts das fachliche Ergebnis mitbestimmen.
Bei generativer KI wird aus der einzelnen Ressource eine Kombination aus Nutzer, Use Case, Modell, Kontext, Tools und Autonomie. Ein günstigerer technischer Pfad kann deshalb nicht nur die Kosten, sondern auch Qualität, Geschwindigkeit, Nachvollziehbarkeit und Risiko verändern.
Entscheidend ist, dass bei KI die Optimierung einer technischen Ressource unmittelbar die fachliche Qualität, Geschwindigkeit oder Nachvollziehbarkeit verändert. AI FinOps muss deshalb nicht nur erklären, wo Aufwand entsteht, sondern auch, welche Kombination aus Ressource und Nutzungskontext für den jeweiligen Use Case angemessen ist.
Damit stellt sich als Nächstes die praktische Frage, welche Informationen eine Organisation dafür tatsächlich beobachten kann, damit diese wirkungsvoll gesteuert werden können.
Was wird bei AI FinOps überhaupt gemessen?
Bevor Kosten und Wert verglichen werden können, muss klar sein, welche Messgrößen vorliegen. Ein Token ist eine kleine Verarbeitungseinheit, in die ein Modell Text oder andere Inhalte zerlegt. Ein Token kann je nach Sprache, Schreibweise und Modell ein Zeichen, einen Teil eines Wortes, ein ganzes Wort oder ein Satzzeichen darstellen. Token sind deshalb nicht mit Wörtern oder Zeichen gleichzusetzen.
Input-Tokens sind die Inhalte, die ein Modell verarbeitet: zum Beispiel die Nutzeranfrage, Systemanweisungen, Gesprächsverlauf, Dokumente oder strukturierte Daten. Output-Tokens sind die Inhalte, die das Modell als Antwort erzeugt. Reasoning-Tokens bezeichnen zusätzliche interne Verarbeitungsschritte von Reasoning-Modellen, die nicht als sichtbarer Antworttext erscheinen, aber den Aufwand und je nach Anbieter auch die Abrechnung beeinflussen können.
Tokens sind die Verarbeitungseinheiten, die ein Modell für Text und andere Inhalte verwendet. Sie sind nicht identisch mit Wörtern oder Zeichen und fallen je nach Modell und Inhalt unterschiedlich an. Credits sind eine Plattform- oder Vertragseinheit, die Nutzung in ein Kontingent oder einen Kostenwert übersetzt. Je nach Anbieter können Credits direkt pro Aufgabe vergeben oder aus dem Tokenverbrauch und den jeweiligen Tarifen berechnet werden.
Der Startpunkt für die operative AI FinOps-Steuerung ist daher eine belastbare Zuordnung von Tokenverbrauch, Credits und Kosten in Euro zu Zeitraum, Nutzergruppe, Team, Projekt oder Use Case. Diese Sicht kann standardmäßig über die etablierten Monitoring-Tools dargestelllt werden (in der Admin-Konsole der Sprachmodelle oder über die Monitoring-Lösungen bspw. von Azure, AWS, Apptio). Ergänzend sollten Use Case, Ergebnisqualität und relevante Anomalien nachvollziehbar dokumentiert werden. Die Verrechnung von Token und Credits stimmt dabei nicht 1:1 mit der sichtbaren Nutzung überein, weil Tarife, Modellpreise, Kontingente, Rundungen, Bündelverträge, Tool- oder Suchgebühren und Abrechnungszeiträume dazwischenliegen können. Entscheidend ist nicht die vollständige technische Zerlegung jedes Aufrufs, sondern eine verlässliche Managementsicht auf Verbrauch, Kosten, Ergebnis und Risiko.
AI FinOps verbindet vier Managementaufgaben
AI FinOps betrachtet vier Perspektiven: Befähigung, Wirtschaftlichkeit, Governance sowie Regulatorik und Resilienz. Diese vier Perspektiven sind nicht bloß eine übersichtliche Darstellung, sondern folgen aus den Zielkonflikten des KI-Einsatzes. Wer nur Wirtschaftlichkeit betrachtet, kann genau die Nutzung rationieren, die fachlich wertvoll ist. Wer nur Befähigung maximiert, riskiert unkontrollierten Verbrauch, Doppelarbeit und unklare Verantwortlichkeiten. Wer Governance ausschließlich als Verbotskatalog versteht, schafft zwar formale Sicherheit, aber eine Umgebung, in der Mitarbeitende auf nicht freigegebene Ausweichlösungen ausweichen oder KI praktisch kaum einsetzen können. Und wer nur regulatorische Sicherheit betrachtet, kann technologische Möglichkeiten grundsätzlich als Risiko behandeln und damit die nötige Lernkurve verhindern.
Die Perspektiven stehen deshalb in einem aktiven Spannungsverhältnis. Befähigung beantwortet, welche Fähigkeiten und Nutzung die Organisation ermöglichen will. Wirtschaftlichkeit übersetzt diese Nutzung in die Frage nach Kosten, Qualität, Geschwindigkeit und Business Value. Governance legt fest, wer welche Daten, Modelle, Tools und Integrationen unter welchen Bedingungen verwenden darf. Regulatorik und Resilienz bestimmen schließlich, welche Risiken, Nachweise, Kontrollmöglichkeiten und Wiederanlaufoptionen erforderlich sind. Erst gemeinsam entsteht eine belastbare Managemententscheidung.
Die zentrale AI FinOps Steuerungslogik entscheidet nicht pauschal für weniger KI, sondern für die passende KI im passenden Risikorahmen und zu vertretbaren Kosten. Operativ können die Perspektiven in jedem relevanten Use Case nacheinander geprüft werden: Zuerst wird geklärt, welche Rolle welche Nutzung ermöglichen soll, woraufhin Datenzugriffe, Berechtigungen, technische Leitplanken und Verantwortliche festgelegt werden. Anschließend wird geprüft, welche regulatorischen Nachweise, Tests, Überwachungen und Rückfallmöglichkeiten für genau diesen Use Case erforderlich sind, wobei diese Perspektive bereits über die etablierten Governance-Prozesse abgedeckt sein dürfte. Abschließend werden Aufwand, Tokenverbrauch, Credits und Kosten der erforderlichen Qualität gegenübergestellt. Diese Betrachtung kann nicht vorab durchgeführt werden und erfordert daher eine praktische Pilotierung des KI Use Cases, um die tatsächlich entstehenden Kosten festzustellen, welche dann durch technische Konfiguration und Prompt-Techniken häufig optimiert werden können. Mit diesem Ablauf wird aus dem Vierklang der Managementperspektiven ein wiederholbarer Entscheidungs- und Reviewprozess.
Hoher Verbrauch ist nicht automatisch schlechter Verbrauch
In der Einführungsphase ist die Nutzung von KI und der damit einhergehende Token- und Credit-Verbrauch zunächst ein wichtiges Lernsignal. Mitarbeitende entdecken Use Cases, testen neue Arbeitsweisen und machen sichtbar, welche Funktionen in Fachprozessen tatsächlich gebraucht werden. Entscheidend ist daher, die Nutzung nicht vorschnell zu begrenzen, sondern die gewonnenen Erkenntnisse für die weitere Entwicklung nutzbar zu machen.
Werden Nutzungslimits erreicht, sollte deshalb nicht automatisch die Nutzung beendet werden. Vielmehr bietet ein solches Limit die Gelegenheit, den dahinterliegenden Use Case genauer zu betrachten: Ist er kunden- oder projektbezogen? Entsteht eine wiederverwendbare Lösung? Gibt es Doppelarbeit in anderen Teams? Auf diese Weise wird der Verbrauch zum Ausgangspunkt einer fachlichen Bewertung, statt lediglich eine Kostenbegrenzung auszulösen.
Um diese Erkenntnisse systematisch zu nutzen, braucht es neben transparenten Verbrauchsdaten auch den Austausch zwischen den Mitarbeitenden. Insbesondere informelle Formate wie kurze Peer-Learning-Runden, offene Use-Case-Sprechstunden, gemeinsame Prompt- oder Workflow-Sammlungen und regelmäßige Lessons-Learned-Termine helfen dabei, wertvolle Anwendungen sichtbar zu machen. So entsteht Lernen nicht allein durch Top-down-Vorgaben und Begrenzungen, sondern vor allem durch den Erfahrungsaustausch derjenigen, die KI im Alltag einsetzen.
Auf dieser Grundlage lässt sich die Nutzung zunehmend wirtschaftlich steuern. Dafür reicht es zunächst, die auffälligen Bereiche sichtbar zu machen: besonders hohe Kosten bei geringem Ergebnis einerseits und besonders gute Ergebnisse bei vergleichsweise geringem Aufwand andererseits. Die Bewertung muss jedoch fachlich erfolgen, denn Token- oder Credit-Zahlen allein erklären keinen Business Value.
Ein wesentlicher Hebel zur wirtschaftlichen Optimierung liegt anschließend in der Auswahl geeigneter KI-Modelle. Nicht jede Aufgabe benötigt dieselbe Leistungsfähigkeit. Eine Zusammenfassung, eine Übersetzung und eine komplexe Risikoanalyse stellen unterschiedliche Anforderungen an Qualität, Kontext und Nachvollziehbarkeit. Für eine alltägliche E-Mail kann ein kleineres Modell bereits ausreichen, während ein leistungsfähigeres Modell bei einer rechtlich sensiblen, dokumentenreichen oder fachlich prüfungsrelevanten Aufgabe angemessen sein kann. Wirtschaftliche Steuerung bedeutet deshalb, das günstigste Modell und den geringsten Ressourcenumfang zu wählen, mit denen die erforderliche Ergebnisqualität verlässlich erreicht wird.
Da diese Entscheidung bei einer wachsenden Zahl von KI-Anwendungen nicht immer individuell getroffen werden kann, bietet sich Routing als möglicher Lösungsansatz an. Ein Router ordnet eine Anfrage anhand relevanter Merkmale einem passenden Modell- oder Toolpfad zu.
Governance und regulatorische Leitplanken schaffen nutzbare Freiräume
Mit zunehmender Leistungsfähigkeit und Autonomie von KI-Anwendungen steigen nicht nur die Nutzungsmöglichkeiten, sondern auch die Anforderungen an ihre wirtschaftliche Steuerung. Während einfache Textanwendungen meist einen überschaubaren Ressourcenverbrauch verursachen, können komplexe KI-Workflows und autonome Agenten durch wiederholte Modellaufrufe, umfangreiche Datenverarbeitung und die Einbindung externer Systeme deutlich höhere Kosten erzeugen. Je eigenständiger solche Anwendungen agieren, desto größer wird zudem das Risiko unkontrollierter Ressourcennutzung oder kostspieliger Fehlentscheidungen.
Governance wird damit zu einem wesentlichen Instrument von AI FinOps: Sie soll wertvolle KI-Nutzung ermöglichen und gleichzeitig verhindern, dass steigende Komplexität und Autonomie zu unverhältnismäßigen Kosten oder Risiken führen. Entscheidend ist dabei eine differenzierte Befähigung. Während alltägliche KI-Funktionen möglichst breit verfügbar sein sollten, benötigen komplexere Anwendungen und insbesondere autonome Agenten gezielte Freigaben. Diese sollten sich an der Kompetenz der Nutzenden, dem konkreten Anwendungsfall und dessen Risikoprofil orientieren. So erhalten Mitarbeitende die Freiräume, die sie für ihre Aufgaben benötigen, ohne dass kostenintensive oder risikoreiche Funktionen pauschal allen zur Verfügung stehen.
Damit diese Steuerung wirksam wird, müssen organisatorische Regeln auch technisch durchgesetzt werden. Beispielsweise können Berechtigungskonzepte den Zugriff auf bestimmte Modelle und Funktionen begrenzen, während Data-Loss-Prevention-Regeln (DLP) die unzulässige Weitergabe sensibler Informationen verhindern sollen. Gerade bei autonomen Agenten ist entscheidend, dass diese ausschließlich auf die für ihren jeweiligen Prozess erforderlichen Daten und Systeme zugreifen und nur entsprechend freigegebene Aktionen ausführen können. Auch Nutzungslimits erhalten dadurch eine differenzierte Funktion: Sie dienen nicht nur dem Budgetschutz, sondern können bei auffälligem Verbrauch eine gezielte Überprüfung oder zusätzliche Freigabe auslösen.
Neben diesen wirtschaftlichen Überlegungen setzen regulatorische Anforderungen den Rahmen. Der EU AI Act verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen für ein angemessenes Maß an KI-Kompetenz zu treffen, wobei insbesondere Erfahrung, Wissen und Nutzungskontext zu berücksichtigen sind. Für Finanzdienstleistungsunternehmen verlangt DORA darüber hinaus einen wirksamen Rahmen zum Management von Informations- und Kommunikationstechnologierisiken (IKT-Risiken). Dabei unterliegen nicht alle KI-Anwendungen denselben Anforderungen. Der Umfang der notwendigen Kontrollen richtet sich nach den jeweiligen Risiken und der Bedeutung der unterstützten Funktionen für den Geschäftsbetrieb. Insbesondere bei Anwendungen, die kritische oder wichtige Funktionen unterstützen, sind angemessene Schutzmaßnahmen sowie wirksame Überwachungs-, Wiederherstellungs- und Kontrollverfahren sicherzustellen. Die Verantwortung für das IKT-Risikomanagement verbleibt beim Finanzdienstleistungsunternehmen, auch wenn externe KI-Dienstleister eingebunden werden.
Für AI FinOps folgt daraus, dass die Wirtschaftlichkeit einer KI-Anwendung nicht allein anhand ihrer unmittelbaren Nutzungskosten bewertet werden kann. Mit steigender Komplexität müssen auch die Kosten für technische Absicherung, Betrieb und Kontrolle sowie mögliche wirtschaftliche Folgen von Fehlfunktionen berücksichtigt werden. Governance schafft hierfür den notwendigen Steuerungsrahmen, indem sie den Zugang zu KI-Funktionen und deren Autonomie risikoorientiert gestaltet.
Ein pragmatischer Einstieg beginnt mit einer steuerbaren Einheit
Finanzdienstleistungsunternehmen müssen nicht von Beginn an eine umfassende AI FinOps-Plattform etablieren. Entscheidend ist vielmehr, zunächst einen überschaubaren Anwendungsbereich zu schaffen, in dem sich die wirtschaftliche Steuerung von KI systematisch erproben und weiterentwickeln lässt.
Ein pragmatischer Einstieg erfolgt in vier aufeinander aufbauenden Schritten: Scope wählen, Transparenz schaffen, Wert bewerten und Dialog etablieren. Zunächst wird ein geeigneter Anwendungsbereich abgegrenzt, um die KI-Nutzung gezielt betrachten zu können. Darauf aufbauend schafft die Transparenz über Nutzung und Kosten die Grundlage für eine Bewertung des wirtschaftlichen Mehrwerts. Der anschließende Dialog zwischen den beteiligten Funktionen stellt sicher, dass die gewonnenen Erkenntnisse in konkrete Verbesserungen einfließen und der Steuerungsansatz kontinuierlich weiterentwickelt wird.
Erst auf dieser Grundlage entfalten weitergehende Automatisierungen, etwa bei der Modellwahl oder der Steuerung von Nutzungslimits, ihren vollen Nutzen. Die Frage „Was kostet KI?“ bleibt dabei relevant, ist jedoch nur der Ausgangspunkt. Entscheidend ist, ob der Ressourceneinsatz in einem angemessenen Verhältnis zum erzielten Mehrwert steht. Auch die FinOps Foundation verfolgt diesen Gedanken, indem sie Kostentransparenz mit der kontinuierlichen Optimierung des Geschäftswerts verbindet.
Die Managemententscheidung lautet nicht weniger KI, sondern passende KI
AI FinOps ist eine Managementdisziplin, weil sie Zielkonflikte sichtbar macht: zwischen Experimentieren und Kontrolle, Qualität und Kosten, Geschwindigkeit und Resilienz. Ihre Aufgabe ist nicht, den Verbrauch zu minimieren und auch nicht das andere Extremum, leistungsfähige Modelle grenzenlos bereitzustellen. Sie soll die richtige KI für den richtigen Use Case zum angemessenen Preis und innerhalb des verantwortbaren Risikorahmens verfügbar machen.
Die nächste sinnvolle Frage lautet deshalb: Für welchen konkreten Fachprozess wollen wir in den kommenden 90 Tagen nicht nur KI-Nutzung messen, sondern erstmals gemeinsam von Kosten, Qualität, Risiko und Geschäftswert entscheiden?
EGC verbindet in diesem Feld Organisationsentwicklung, Fachprozessverständnis und technische Umsetzung. AI FinOps wird dabei nicht als isolierte Kostenfunktion verstanden, sondern als gemeinsame Steuerung von Nutzung, Wert, Rollen, Governance, regulatorischer Resilienz und Veränderungsfähigkeit. Die konkrete Ausgestaltung muss an den Use Case, die Organisation und das vorhandene Kontrollsystem anschließen.
