Kontextfenster
Das Kontextfenster ist die maximale Textmenge — gemessen in Tokens — die ein Modell auf einmal berücksichtigen kann; es umfasst den System-Prompt, den bisherigen Gesprächsverlauf, die Tool-Ergebnisse und die Antwort, die es gerade erzeugt.
Alles, was das Modell in einer bestimmten Runde „sieht“, muss in das Kontextfenster passen. Bei einem Agenten füllt sich das schnell: Der System-Prompt, jede Nutzernachricht und jedes Tool-Ergebnis häufen sich Runde um Runde an. Wenn das Fenster erschöpft ist, müssen die ältesten oder am wenigsten relevanten Inhalte verworfen oder zusammengefasst werden, sonst kann das Modell sie schlicht nicht aufnehmen. Das Verwalten des Fensters — was behalten, verdichten oder bei Bedarf abrufen — ist eines der zentralen Engineering-Probleme beim Bau von Agenten.
Kernpunkte
- Gemessen in Tokens (im Englischen etwa ¾ eines Wortes); es begrenzt Eingabe und Ausgabe zusammengenommen.
- In einem Agenten wird es vom System-Prompt, dem laufenden Gespräch und den Tool-Ergebnissen verbraucht.
- Wenn es sich füllt, muss der Kontext verdichtet, zusammengefasst oder bei Bedarf abgerufen werden — siehe Retrieval-Augmented Generation.
- Ein größeres Fenster hilft, ist aber nicht umsonst: mehr Tokens bedeuten höhere Kosten, mehr Latenz und das Risiko, dass das Modell den Fokus verliert.
Lern es durch Bauen
Way of the Agent bringt dir AI-Agent-Engineering Level für Level bei — Konzepte wie dieses, dann Praxis, XP und die AI Chronicles.
Kostenlos starten →