KI-Kosten prüfen: ein Audit in fünf Schritten
Ein Audit der KI-Kosten stellt fest, was eine Organisation an Modellanbieter zahlt, für welche Modelle und in welchen Projekten. Sie lesen den Nutzungsbericht jedes Anbieters (Token je Tag, Modell und Projekt), multiplizieren jede Token-Art mit ihrem Preis aus einer eigenen Preisliste, gleichen das Ergebnis mit der Rechnung ab und teilen die Summe auf. Erst danach stellt sich die Frage, was dieselben Token auf einem anderen Modell kosten würden. Diese Zahl ist eine Obergrenze, solange Anfragen nicht einzeln gemessen wurden, denn ein Nutzungsbericht zeigt Summen und nicht, welche Anfragen einfach waren.
- Was ein Audit der KI-Kosten umfasst
- Schritt 1: den Nutzungsbericht jedes Anbieters lesen
- Schritt 2: jedes Token bepreisen
- Schritt 3: mit der Rechnung abgleichen
- Schritt 4: die Summe aufteilen
- Schritt 5: dieselben Token neu bepreisen
- Was der Nutzungsbericht nicht sagen kann
- Was schiefgeht
- Wie Cureman das macht
KI-Kosten prüfen Sie, indem Sie den Nutzungsbericht jedes Modellanbieters nehmen, jede Token-Art mit ihrem Preis multiplizieren und die Summe nach Anbieter, Modell und Projekt aufteilen. Der Bericht liefert die Mengen, die Preisliste die Sätze. Das Audit besteht aus der Multiplikation, dem Abgleich mit der Rechnung und einer nüchternen Liste dessen, was der Bericht nicht sagen kann.
Was ein Audit der KI-Kosten umfasst
KI-Kosten kommen auf mehr als einer Position an, und jede Position hat ihre eigene Quelle.
| Art der Kosten | Abrechnungseinheit | Wo die Mengen stehen |
|---|---|---|
| API-Nutzung von Sprachmodellen | Token, nach Art und Modell | Nutzungsbericht des Anbieters |
| Werkzeuge und weitere Endpunkte (Websuche, Code-Ausführung, Embeddings, Bilder, Audio) | Aufrufe, Token oder Sekunden | Eigene Nutzungsberichte oder die Rechnung |
| Sitze für Chat- und Coding-Assistenten | Sitze je Monat | Abonnement und Sitzliste |
| Modelle, die über ein Cloud-Konto bezogen werden | Token, auf der Cloud-Rechnung | Kostenbericht des Cloud-Anbieters |
Dieser Artikel behandelt die erste Position, die mit jeder Funktion wächst, die ein Modell aufruft. Sitze sind eine Lizenzfrage. Ob für eine Person der Sitz oder die Abrechnung nach Token günstiger ist, rechnet der Artikel Sitzlizenz oder Abrechnung nach Token vor.
Schritt 1: den Nutzungsbericht jedes Anbieters lesen
Die Anbieter stellen den Verbrauch über eine Verwaltungsschnittstelle bereit, für die ein Admin-Schlüssel der Organisation nötig ist. Anthropic dokumentiert seine Usage and Cost API, OpenAI seine Usage API.
Fragen Sie die feinste Gliederung ab, die der Bericht hergibt: je Tag, je Modell, je Projekt oder Workspace, je Servicestufe. Jede Zeile braucht vier Token-Zahlen: Input ohne Cache, Output, aus dem Prompt-Cache gelesene und in den Cache geschriebene Token.
Klären Sie, was jede Zahl bedeutet, bevor Sie etwas addieren. Ein Anbieter meldet die Input-Token einschließlich der gecachten, ein anderer weist sie getrennt aus. Wer beides ungeprüft zusammenzählt, zählt gecachte Token doppelt.
Schritt 2: jedes Token bepreisen
Die Kosten einer Zeile sind die Summe aus vier Produkten:
Kosten = (Input ohne Cache × Input-Preis
+ Output × Output-Preis
+ Cache-Lesezugriffe × Preis für Cache-Lesen
+ Cache-Schreiben × Preis für Cache-Schreiben) ÷ 1.000.000Führen Sie eine Preisliste mit einer Zeile je Anbieter und Modell: die vier Preise, die Adresse, von der sie stammen, und das Datum. Ein Listenpreis ist eine Behauptung, bis jemand ihn mit der aktuellen Preisseite des Anbieters verglichen hat. Kennzeichnen Sie deshalb jede Zeile als geprüft oder ungeprüft. Ein Modell, das in der Liste fehlt, muss als „ohne Preis“ sichtbar sein. Zählt es stillschweigend mit null, verschwindet es aus der Summe.
Ein Rechenbeispiel mit erfundenen Zahlen. Ein Monat eines Modells: 400 Millionen Input-Token ohne Cache, 60 Millionen Output-Token und 100 Millionen Cache-Lesezugriffe, zu erfundenen Preisen von 3,00, 15,00 und 0,30 je Million.
| Token-Art | Token (Millionen) | Preis je Million | Kosten |
|---|---|---|---|
| Input ohne Cache | 400 | 3,00 | 1.200,00 |
| Output | 60 | 15,00 | 900,00 |
| Cache-Lesezugriffe | 100 | 0,30 | 30,00 |
| Summe | 2.130,00 |
Worin sich die Token-Arten unterscheiden und warum Output teurer ist, steht im Artikel LLM-Token-Kosten erklärt.
Schritt 3: mit der Rechnung abgleichen
Legen Sie die berechnete Summe neben die Rechnung für denselben Zeitraum. Beide stimmen selten auf Anhieb überein, und jeder Grund lässt sich benennen:
- Rabatte. Ein verhandelter Satz oder eine Abnahmeverpflichtung senkt die Rechnung, nicht den Listenpreis.
- Servicestufen. Batch-Verarbeitung wird unter dem Standardsatz abgerechnet, Prioritätsverarbeitung darüber.
- Posten außerhalb des Token-Berichts. Websuche, Code-Ausführung, Embeddings, Bilder und Audio stehen auf eigenen Zeilen.
- Cache-Lebensdauer. Ein Cache-Eintrag mit längerer Lebensdauer kann beim Schreiben mehr kosten als ein kurzer.
- Zeitraum, Währung, Steuer. Berichte werden tageweise in UTC geschnitten. Rechnungen folgen dem Abrechnungszeitraum, lauten oft auf US-Dollar und weisen die Umsatzsteuer gesondert aus.
Halten Sie die Abweichung mit ihren Gründen schriftlich fest, auch für die Buchhaltung. Eine Abweichung, die niemand erklären kann, heißt, dass Preisliste oder Token-Zahlen nicht stimmen. Dann ist auch die folgende Aufteilung nichts wert.
Schritt 4: die Summe aufteilen
| Schnitt | Was er zeigt |
|---|---|
| Nach Anbieter | Wohin das Geld fließt und worüber sich eine Abnahmezusage verhandeln ließe |
| Nach Modell | Wie viel auf die größten Modelle entfällt, bei denen der Preis je Token am höchsten ist |
| Nach Projekt oder Workspace | Welches Produkt oder Team die Kosten verursacht, soweit die Schlüssel getrennt geführt werden |
| Nach Tag | Sprünge: eine Einführung, eine Wiederholungsschleife, ein doppelt gelaufener Job |
| Nach Token-Art | Ob die Kosten in langen Prompts oder langen Antworten stecken und wie viel Input aus dem Cache kommt |
Die Gliederung des Berichts endet beim Projekt oder Workspace. Was unter einem Standard-Workspace oder einem gemeinsam genutzten Schlüssel läuft, landet in einem Topf ohne Namen. Kosten je Funktion, Kostenstelle oder Person brauchen Kennzeichen an der Anfrage selbst. Darum geht es im Artikel KI-Kosten Teams zuordnen.
Schritt 5: dieselben Token neu bepreisen
Nehmen Sie die Token des teuersten Modells und bepreisen Sie sie mit einem günstigeren Modell desselben Anbieters. Mit dem Beispiel oben und erfundenen Preisen von 0,50, 2,50 und 0,05 je Million für das kleinere Modell: 400 × 0,50 + 60 × 2,50 + 100 × 0,05 = 355,00, also 1.775,00 weniger im Monat.
Diese Differenz ist eine Obergrenze und keine Einsparung. Sie gilt, wenn jede Anfrage umzieht, und noch weiß niemand, welche das können. Für Caching gilt dasselbe: Wenig aus dem Cache gelesener Input bei großen Prompts je Anfrage deutet darauf hin, dass wiederholte Prompts zum vollen Input-Preis bezahlt werden. Welche Prompts sich wiederholen, sagt der Bericht nicht. Mehr dazu unter Prompt-Caching und Kontext.
Was der Nutzungsbericht nicht sagen kann
Ein Nutzungsbericht enthält Summen, keine Anfragen. Er sagt nicht, welche Anfragen einfach waren, welche Prompt-Anfänge immer wieder gesendet werden, welche Funktion oder Person die Kosten verursacht hat und wie viele Anfragen exakte Wiederholungen waren. Dafür braucht es eine Messung je Anfrage. Die leistet ein LLM-Gateway, das den Verkehr beobachtet, ohne ihn zu verändern.
Was schiefgeht
- Das Dashboard lesen und die Rechnung auslassen. Das Dashboard zeigt Verbrauch. Was berechnet wurde, zeigt nur die Rechnung.
- Denselben Verkehr doppelt zählen. Fließen Anbieterberichte und eigene Protokolle in dieselbe Summe, muss eine Quelle zurückstehen.
- Die Obergrenze als Einsparung melden. Eine Neubepreisung aller Token überlebt die erste Anfrage nicht, die das größere Modell braucht.
- Veraltete Preise. Anbieter ändern Preise und stellen Modelle ein. Eine Preisliste ohne Datum lässt sich nicht prüfen.
Wie Cureman das macht
Cureman liest die Nutzungsberichte der verbundenen Anbieter über Konnektoren, die mit einem Admin-Schlüssel nur lesen: Token je Tag, Modell, Projekt oder Workspace und Servicestufe. Jede Token-Art wird mit einer Modellpreisliste bepreist. Ein Preis, den niemand geprüft hat, ist überall als ungeprüft gekennzeichnet, und die Seite nennt die Anbieter, deren Kosten aus Token-Zahlen und Listenpreisen berechnet sind und deshalb keinen verhandelten Rabatt enthalten. Die Ausgaben stehen nach Anbieter, Modell, Projekt und Tag. Für jedes Modell werden dieselben Token mit günstigeren Modellen desselben Anbieters neu bepreist, ohne Annahme über die Qualität. Diese Zahl wird als Obergrenze gezeigt und nicht als gefundene Einsparung gezählt. Anfragen, die das Gateway gemessen hat, gehen nur für Anbieter ohne verbundenen Bericht in die Summe ein, damit kein Verkehr doppelt gezählt wird. Das Modul ist auf der Seite zum KI-Kosten-Audit beschrieben.
Fragen und Antworten
Was ist ein Audit der KI-Kosten?
- Eine Prüfung dessen, was eine Organisation an Modellanbieter zahlt, gerechnet aus den Nutzungsberichten der Anbieter selbst. Jede Token-Art wird mit ihrem Preis multipliziert, die Summe mit der Rechnung abgeglichen und dann nach Anbieter, Modell und Projekt aufgeteilt. Das Ergebnis ist eine Aufstellung, die jeder nachrechnen kann, und eine Liste der Fragen, die der Bericht nicht beantwortet.
Woher kommt der Token-Verbrauch einer Organisation?
- Aus dem Nutzungsbericht jedes Anbieters, der über eine Verwaltungsschnittstelle mit einem Admin-Schlüssel der Organisation gelesen wird. Er nennt Token je Tag, Modell und Projekt oder Workspace, getrennt nach Input ohne Cache, Output, Cache-Lesezugriffen und Cache-Schreibzugriffen. Ein gewöhnlicher API-Schlüssel kann ihn nicht lesen.
Warum weichen die berechneten Kosten von der Rechnung des Anbieters ab?
- Die üblichen Gründe sind ein verhandelter Rabatt, Servicestufen wie Batch- oder Prioritätsverarbeitung, Posten außerhalb des Token-Berichts wie Websuche oder Embeddings und ein Abrechnungszeitraum, der in einer anderen Zeitzone geschnitten wird. Jeder davon lässt sich benennen und beziffern. Eine Abweichung, die niemand erklären kann, heißt, dass Preisliste oder Token-Zahlen nicht stimmen.
Zeigt ein Nutzungsbericht, welche Anfragen ein günstigeres Modell hätte beantworten können?
- Nein. Ein Nutzungsbericht enthält Summen je Tag, Modell und Projekt und keine einzelne Anfrage. Er kann zeigen, was dieselben Token auf einem günstigeren Modell kosten würden, und das ist eine Obergrenze. Welche Anfragen einfach genug waren, sieht man erst, wenn Anfragen einzeln gemessen und eingestuft werden, etwa von einem Gateway, das beobachtet, ohne etwas zu ändern.