---
title: "Kontext-Optimierer: lange Gespräche mit weniger Verlauf"
description: "Der Kontext-Optimierer lässt frühere Teile eines langen Gesprächs aus der Anfrage an den Anbieter weg, und nur dann, wenn sich das nachrechenbar lohnt."
url: https://www.cureman.de/de/module/kontext-optimierer
language: de
updated: 2026-11-16
alternate_en: https://www.cureman.de/en/modules/context-optimiser.md
---

# Kontext-Optimierer: lange Gespräche mit weniger Verlauf

> Der Kontext-Optimierer von Cureman arbeitet im KI-Gateway. Bei einem langen Gespräch wählt er die früheren Wortwechsel aus, die für die neueste Nachricht zählen, und lässt den Rest aus der Anfrage weg, die an den Anbieter geht. Der Verlauf des Aufrufers selbst wird nie verändert, die nächste Runde beginnt also wieder mit dem ganzen Gespräch. Gekürzt wird nur, wenn die vermiedenen Eingabekosten höher sind als das, was Prompt-Caching gespart hätte, und als die Kosten der Auswahl. Der Optimierer beginnt im Beobachtungsmodus, in dem er misst und nichts ändert.

Eine Chat-Anfrage trägt jedes Mal das ganze Gespräch mit sich, und jedes Token davon wird in jeder Runde erneut als Eingabe berechnet. Bei einem langen Gespräch hat ein großer Teil dieses Verlaufs mit der neuesten Nachricht nichts zu tun. Der Kontext-Optimierer entscheidet, welche früheren Wortwechsel die aktuelle Anfrage braucht, und schickt dem Anbieter eine Kopie der Anfrage ohne den Rest.

## Womit er arbeitet

Der Optimierer betrachtet Anfragen, die über das [KI-Gateway](https://www.cureman.de/de/module/ki-gateway) laufen, in den Formaten Anthropic Messages, OpenAI Chat Completions und OpenAI Responses. Er teilt ein Gespräch in Wortwechsel: eine Nachricht des Nutzers mit allem, was bis zur nächsten Nachricht des Nutzers folgt, damit ein Werkzeugaufruf und sein Ergebnis zusammenbleiben. Betrachtet werden nur Gespräche, deren Verlauf eine in der Routing-Regel festgelegte Mindestgröße überschreitet. Eine Anfrage, die sich auf ein beim Anbieter gespeichertes Gespräch stützt, bleibt unangetastet.

## Was immer mitgeht

- System- und Entwicklernachrichten.
- Der erste Wortwechsel des Gesprächs.
- Die jüngsten Wortwechsel; wie viele, legt die Routing-Regel fest.
- Jeder frühere Wortwechsel, den die Auswahl für die neueste Nachricht als wichtig einstuft.

Ein Wortwechsel geht ganz mit oder bleibt ganz weg. Geteilt wird er nie.

## Wie die Auswahl entsteht

Es gibt zwei Verfahren. Das deterministische vergleicht die kennzeichnenden Wörter der letzten Nachrichten des Nutzers mit jedem früheren Wortwechsel und behält die, die genug davon teilen. Das andere ist ein kleines Modell auf demselben Upstream: Es bekommt die neueste Nachricht und eine gekürzte, nummerierte Liste der früheren Wortwechsel und gibt die Nummern zurück, die bleiben sollen. Das Gespräch wird ihm als Daten übergeben, mit der Anweisung, es als Daten zu behandeln, und seine Antwort muss einer festen Form entsprechen.

Kann ein Verfahren nicht urteilen, geht der ganze Verlauf mit. Das ist der Fall, wenn die neueste Nachricht zu kurz für einen Vergleich ist oder wenn das kleine Modell keine verwertbare Antwort liefert.

## Wann gekürzt wird: die Rechnung

| Lage | Vermiedene Eingabekosten |
| --- | --- |
| Der Verlauf wäre zum vollen Eingabepreis berechnet worden | Weggelassene Token mal Eingabepreis |
| Der Anbieter hätte den Verlauf aus seinem Prompt-Cache bedient | Weggelassene Token mal Preis für Cache-Lesen, abzüglich des Cache-Rabatts, der für alles nach der ersten Lücke verloren geht |

Gekürzt wird nur, wenn dieser Betrag positiv ist. Wer etwas aus der Mitte eines Gesprächs weglässt, beendet an dieser Stelle den gecachten Anfang. Bei einem gut gecachten Gespräch lohnt sich das Kürzen deshalb oft nicht, und dann bleibt alles drin. Die Planung arbeitet mit Schätzwerten; sobald der Anbieter die berechneten Token meldet, werden die gespeicherten Werte auf diese Zahl umgerechnet. Die Abwägung erklärt der Artikel [Prompt-Caching und Kontext](https://www.cureman.de/de/artikel/prompt-caching-und-kontext).

## Was sich nie ändert

Der Verlauf des Aufrufers wird nicht angefasst. Kürzer ist nur die Kopie, die an den Anbieter geht, und die nächste Runde wird wieder aus dem ganzen Gespräch beurteilt. Lehnt der Anbieter eine gekürzte Anfrage ab, schickt das Gateway in der Voreinstellung die vollständige Anfrage. Ein Aufrufer kann für eine einzelne Anfrage mit dem Header `x-gateway-context: off` den ganzen Verlauf behalten, und eine Routing-Regel kann Tags ausnehmen. Ein Antwort-Header sagt, wenn eine Anfrage gekürzt wurde und wie viele Nachrichten wegblieben.

## Erst beobachten

Der Optimierer wird je Routing-Regel eingestellt und kennt drei Modi: Aus, Beobachten und Durchsetzen. Im Modus Beobachten geht jede Anfrage mit vollem Verlauf raus, und das Gateway hält fest, welche Wortwechsel es weggelassen hätte und was das gespart hätte, ermittelt mit dem deterministischen Verfahren. Daraus entsteht ein Befund, der die Anfragen, die Token und den Betrag mit Rechenweg zeigt.

Dieser Befund hat einen Aktionsplan mit einem Schritt: den Optimierer auf Durchsetzen zu stellen. Der Schritt wird vorbereitet und wirkt erst, nachdem ein Mensch ihn in der Liste der Entscheidungen freigegeben hat. Im Modus Durchsetzen antwortet das Modell, ohne das Weggelassene gesehen zu haben, und der Optimierer misst Kosten, keine Antwortqualität. Lesen Sie die beobachteten Zahlen und entscheiden Sie, für welche Arbeitslasten das vertretbar ist.

## Was er braucht und was er misst

Der Kontext-Optimierer setzt das KI-Gateway voraus. Gemessen werden die Eingabekosten des weggelassenen Verlaufs bei gekürzten Anfragen, abzüglich der Kosten der Auswahl durch ein Modell.

## Zum Weiterlesen

- [Prompt-Caching und Kontext](https://www.cureman.de/de/artikel/prompt-caching-und-kontext)
- [LLM-Token-Kosten erklärt](https://www.cureman.de/de/artikel/llm-token-kosten-erklaert)
- [Was ein LLM-Gateway ist](https://www.cureman.de/de/artikel/was-ist-ein-llm-gateway)

## Fragen und Antworten

### Verändert der Kontext-Optimierer das Gespräch meiner Anwendung?

Nein. Kürzer ist nur die Kopie der Anfrage, die an den Anbieter geht. Die Antwort kommt unverändert zurück, die Anwendung hängt sie an ihren eigenen, vollständigen Verlauf an, und die nächste Anfrage wird aus diesem vollständigen Verlauf neu beurteilt. Ein Wortwechsel, der weggelassen wurde, wird wieder mitgeschickt, sobald eine spätere Nachricht sich auf ihn bezieht.

### Kann das Weglassen von Verlauf die Antwort des Modells verändern?

Ja, das kann es. Im Modus „Durchsetzen“ antwortet das Modell, ohne die weggelassenen Wortwechsel gesehen zu haben. Die Auswahl behält einen Wortwechsel im Zweifel, und wenn sie gar nicht urteilen kann, geht der ganze Verlauf mit. Das Modul misst Kosten und keine Antwortqualität. Deshalb beginnt es im Beobachtungsmodus, und deshalb lassen sich einzelne Anfragen und Tags ausnehmen.

### Wie verträgt sich das mit Prompt-Caching?

Die Rechnung berücksichtigt das Caching. Hätte der Anbieter den Verlauf aus seinem Prompt-Cache bedient, werden die weggelassenen Token nur zum Preis für Cache-Lesen bewertet, und der Rabatt, der für alles nach der ersten Lücke verloren geht, wird abgezogen. Ist das Ergebnis nicht positiv, geht die Anfrage vollständig raus.

### Was kostet die Auswahl selbst?

Die deterministische Auswahl vergleicht Wörter und kostet nichts. Die Auswahl durch ein kleines Modell ist ein Aufruf auf demselben Upstream. Er findet nur statt, wenn das Weglassen aller Kandidaten ein Mehrfaches seiner Kosten sparen würde, wird wie jede andere Anfrage gemessen, und seine Kosten werden von der Einsparung abgezogen.

## Weiterlesen

- [Prompt Caching und Kontextkürzung bei langen Gesprächen](https://www.cureman.de/de/artikel/prompt-caching-und-kontext): Wie Prompt Caching und Kontextkürzung die Eingabekosten langer LLM-Gespräche senken, wie man beides berechnet und wann Kürzen teurer ist als Senden.
- [LLM-Token-Kosten erklärt: Input, Output und Cache](https://www.cureman.de/de/artikel/llm-token-kosten-erklaert): Was Input-, Output- und gecachte Token sind, warum Output mehr kostet als Input und wie Sie die Kosten einer einzelnen LLM-Anfrage Schritt für Schritt berechnen.
- [Was ist ein LLM-Gateway und wann braucht man eines?](https://www.cureman.de/de/artikel/was-ist-ein-llm-gateway): Ein LLM-Gateway ist ein Proxy zwischen Anwendungen und Modellanbietern. Was es je Anfrage misst, wie Upstreams und Schlüssel funktionieren und wann es sich lohnt.
