Module

Prompt-Analyse: wofür Modelle genutzt werden und von wem

Aktualisiert Setzt voraus: KI-GatewayMarkdown
Kurz gesagt

Die Prompt-Analyse in Cureman zeigt, wofür Menschen und Dienste die Modelle einsetzen. Das Modul ordnet die Anfragen, die über das KI-Gateway laufen, nach Aufgaben wie Programmieren, Extraktion oder Übersetzung und weist Token und Kosten dem Nutzer und dem Tag zu, die der Aufrufer gemeldet hat. Wo die Zahlen es tragen, empfiehlt es ein passenderes Werkzeug, etwa einen Sitz für Personen, deren Programmierarbeit über die API mehr kostet als der Sitz. Prompt-Texte werden nicht gespeichert, solange die Organisation keine Prompt-Stichproben einschaltet.

Tokenmengen sagen, wie viel genutzt wurde. Wofür, sagen sie nicht. Die Prompt-Analyse versieht jede Anfrage, die über das Gateway läuft, mit der Art der Aufgabe, ordnet sie der Person und der Funktion zu, von der sie kam, und vergleicht, was diese Arbeit kostet, mit den Werkzeugen, die die Organisation stattdessen nutzen könnte.

Was sie liest

Das Modul hat keine eigene Datenquelle. Es arbeitet mit dem, was das KI-Gateway zu jeder Anfrage festhält: Aufgabentyp, Token, Kosten sowie Nutzer und Tag, die der Aufrufer gemeldet hat. Der Aufgabentyp wird einmal vergeben, in dem Moment, in dem eine Anfrage durchläuft und eingeordnet wird, entweder durch feste Regeln oder durch das kleine Modell, das eine Routing-Regel verwenden kann. Gespeichert wird das Etikett. Nichts auf den Seiten der Prompt-Analyse liest Prompt-Text.

AufgabentypTypische Anfragen
ProgrammierenCode schreiben, erklären oder korrigieren
Extraktion und KlassifizierungFelder aus Text ziehen, etikettieren, Ja-Nein-Fragen
ZusammenfassungEinen längeren Text verdichten
ÜbersetzungVon einer Sprache in eine andere
Schreiben und ÜberarbeitenTexte entwerfen und umformulieren
Analyse und SchlussfolgernVergleichen, bewerten, Ursachen erklären
UnterhaltungKurzer Austausch ohne klare Aufgabe
SonstigesAlles, was die Regeln nicht zuordnen können

Zuordnung zu Personen und Funktionen

Eine Anfrage zählt für eine Person, wenn der Aufrufer sagt, für wen sie läuft: über den Header x-gateway-user, das Nutzerfeld der OpenAI-Formate, die Nutzerkennung in den Metadaten einer Anthropic-Anfrage oder den angemeldeten Nutzer, den die Chat-Oberfläche des KI-Arbeitsplatzes weiterreicht. Für eine Funktion oder einen Job zählt sie über das Tag im Header x-gateway-tag. Die Seite zeigt, welcher Anteil der Anfragen überhaupt einen Nutzer trägt, damit Lücken in der Zuordnung sichtbar bleiben.

Nutzung je Person sind personenbezogene Daten. Namen erscheinen nur für Rollen mit der Berechtigung, Personen einzusehen, und Kostenbeträge nur für Rollen, die Ausgaben sehen dürfen. In Deutschland gehört eine solche Auswertung früh mit dem Betriebsrat besprochen: Technische Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung von Beschäftigten zu überwachen, unterliegen der Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG. Das ist keine Rechtsberatung. Wie sich Schlüssel, Tags und Nutzer einrichten lassen, beschreibt der Artikel KI-Kosten Teams zuordnen.

Was sie zeigt

  • Aufgabenmix: Anfragen, Token und Kosten je Aufgabentyp im gewählten Zeitraum.
  • Personen: die Nutzer mit den höchsten Kosten, die Aufgabe, für die jeder am meisten ausgegeben hat, und die Kosten je 30 Tage.
  • Tags: die Tags mit den höchsten Kosten, meist ein Dienst oder ein Projekt.
  • Lange Gespräche: Anfragen mit vielen Nachrichten und ihr Anteil an allen Eingabe-Token.

Was sie empfiehlt

EmpfehlungWie sie berechnet wird
Ein Sitz bei intensiver Nutzung über die APIPersonen, deren gemessene Kosten für die Aufgaben, die das Playbook eines Dienstes nennt, etwa Programmieren, den Preis eines Sitzes dieses Dienstes um einen festgelegten Abstand übersteigen: Tokenkosten je 30 Tage minus Sitzpreis, mal zwölf
Der Kontext-Optimierer für lange GesprächeEntsteht, wenn Gespräche mit vielen Nachrichten einen großen Teil der Eingabe-Token tragen und der Optimierer nicht gebucht ist. Die Empfehlung beziffert die Frage und nennt keine Einsparung

Die Sitz-Empfehlung sagt, ob der Listenpreis des Sitzes geprüft ist, und nennt ihre Annahme: dass der Sitz diesen Verkehr ersetzt, während Arbeit über die Nutzungsgrenzen des Sitzes hinaus weiter nach Verbrauch läuft. Zwei benachbarte Befunde stammen aus anderen Modulen und stehen in derselben Liste. Wiederholte Prompts, die sich cachen ließen, findet das Gateway. Inhaber eines Chat-Sitzes, deren gemessene Nutzung im KI-Arbeitsplatz nach Token weniger kosten würde, findet die Lizenzoptimierung, sofern dieses Modul gebucht ist.

Von der Empfehlung zum Erledigt

Jede Empfehlung ist ein Befund mit Rechenweg und Aktionsplan. Bei der Sitz-Empfehlung ist der Plan ein manueller Schritt: Ein Mensch kauft die Sitze, weist sie zu und informiert die Betroffenen. Bei langen Gesprächen enthält der Plan einen vorbereiteten Schritt, die Buchung des Kontext-Optimierers, der im Beobachtungsmodus beginnt und nichts verändert. Ein vorbereiteter Schritt wirkt erst, nachdem ein Mensch ihn in der Liste der Entscheidungen freigegeben hat.

Was sie braucht und was sie misst

Die Prompt-Analyse setzt das KI-Gateway voraus, weil jede Zahl aus dem Verkehr des Gateways stammt. Für die monatliche Abrechnung misst das Modul nichts.

Zum Weiterlesen

Fragen und Antworten

Speichert die Prompt-Analyse, was Mitarbeitende eingeben?

Nein. Das Modul arbeitet mit dem, was das Gateway zu jeder Anfrage festhält, also Aufgabentyp, Tokenmengen, Kosten, Hashwerte sowie Nutzer und Tag, die der Aufrufer gemeldet hat. Texte von Prompts und Antworten werden nicht gespeichert. Die einzige Ausnahme ist eine Einstellung, die die Organisation selbst einschalten muss, die Prompt-Stichproben. Dann wird der Anfang des Systemprompts jeder Anfrage aufbewahrt.

Wie wird der Aufgabentyp einer Anfrage bestimmt?

Er wird festgelegt, wenn die Anfrage das Gateway durchläuft und eingeordnet wird. In der Voreinstellung prüfen feste Regeln die Formulierung der neuesten Nachricht und Merkmale der Anfrage. Nutzt die Routing-Regel ein kleines Modell zur Einordnung, vergibt dieses Modell das Etikett. In beiden Fällen bleibt nur das Etikett erhalten, und die Seite zeigt, wie viele Anfragen jedes Verfahren eingeordnet hat.

Wie wird eine Anfrage einer Person zugeordnet?

Der Aufrufer muss sagen, für wen die Anfrage läuft. Das Gateway akzeptiert einen Header für den Nutzer, das Nutzerfeld der OpenAI-Formate, die Nutzerkennung in den Metadaten einer Anthropic-Anfrage und den angemeldeten Nutzer, den die Chat-Oberfläche des KI-Arbeitsplatzes weiterreicht. Anfragen ohne eine dieser Angaben zählen als nicht zugeordnet.

Wer sieht die Nutzung je Person?

Nur, wessen Rolle die Berechtigung hat, Personen einzusehen. Alle anderen sehen, wie viele Personen aktiv waren, und keine Namen. Kostenbeträge erscheinen ebenfalls nur für Rollen, die Ausgaben sehen dürfen.