Ein langlaufender AI-Agent scheitert oft nicht am Modell. Er scheitert daran, dass sein Arbeitskontext bei jedem Schritt unkontrolliert wächst, wichtige Zwischenresultate verloren gehen oder alte Annahmen weitergetragen werden. Ein grosses Kontextfenster verschiebt das Problem nur. Für verlässliche Agenten braucht es eine bewusste Zustands- und Kontextarchitektur.
OpenAI veröffentlichte am 29. Juli 2026 einen aktuellen Hinweis dazu: In einem ARC-AGI-3-Harness verlor das Modell frühere Aktionen und seine Begründungen. Mit beibehaltenem Reasoning und Context Compaction stieg der gemeldete Score auf dem öffentlichen Set um 188 Prozent, während sechsmal weniger Output-Tokens verwendet wurden. Das ist ein Anbieterexperiment, kein allgemeingültiger Produktivitätsnachweis. Es zeigt aber klar, dass der Harness und die Kontextführung Teil der gemessenen Systemleistung sind.
Warum reicht ein grosses Kontextfenster nicht?
Ein Agent arbeitet selten nur mit einer Unterhaltung. Er sammelt Suchresultate, Tool-Ausgaben, Pläne, Fehlversuche, Zwischenergebnisse und Freigaben. Werden alle Inhalte ungefiltert weitergereicht, steigen Kosten und Latenz. Gleichzeitig wird es für das Modell schwieriger, relevante Signale von historischem Rauschen zu trennen.
Das Gegenstück ist zu aggressive Kürzung. Wenn der Agent frühere Entscheidungen, geprüfte Hypothesen oder den Status eines Tools verliert, beginnt er erneut. Die Folge sind doppelte Arbeit, widersprüchliche Schritte und zusätzliche Kosten.
Vier Arten von Zustand trennen
Eine robuste Architektur trennt mindestens vier Ebenen:
- Gesprächskontext für die aktuelle Interaktion.
- Arbeitszustand mit Plan, offenen Punkten und geprüften Zwischenergebnissen.
- Unternehmenswissen aus verbindlichen Quellen.
- Auditdaten über Tool-Aufrufe, Freigaben, Fehler und Resultate.
Diese Ebenen haben verschiedene Lebenszyklen und Berechtigungen. Auditdaten gehören nicht automatisch in den nächsten Modellaufruf. Unternehmenswissen sollte nicht als frei editierbare Agentennotiz behandelt werden. Der Arbeitszustand muss kompakt bleiben, ohne wichtige Entscheidungen zu verlieren.
Was Context Compaction leisten muss
Context Compaction sollte nicht einfach die letzten Nachrichten zusammenfassen. Eine brauchbare Kompaktierung erhält:
- Ziel und Akzeptanzkriterien der Aufgabe,
- bestätigte Fakten mit Quellen,
- bereits getroffene Entscheidungen,
- fehlgeschlagene Ansätze und den Grund ihres Scheiterns,
- offene Risiken und nächste erlaubte Aktionen.
Tool-Rohdaten können oft durch strukturierte Resultate ersetzt werden. Ein Agent braucht zum Beispiel nicht die gesamte Antwort eines Ticketsystems, wenn Ticket-ID, Status, Verantwortlicher und nächster Termin genügen.
Wann muss ein Agent stoppen statt weiterzukompaktieren?
Kompaktierung kann Informationsverlust verdecken. Deshalb braucht der Workflow Stoppsignale. Der Agent sollte an einen Menschen eskalieren, wenn Quellen widersprüchlich sind, eine Freigabe fehlt, der Zustand nicht mehr sicher rekonstruiert werden kann oder wiederholte Kompaktierungen die gleiche Unsicherheit erzeugen.
Auch Budget und Zeit gehören dazu. Ein Agent, der nach zwanzig Schritten noch keinen messbaren Fortschritt hat, braucht keine weitere Zusammenfassung, sondern einen definierten Abbruch.
Wie testet man Kontextpflege?
Ein normaler Antworttest genügt nicht. Testen Sie Aufgaben über viele Schritte und prüfen Sie gezielt:
- Behält der Agent frühere Entscheidungen korrekt bei?
- Wiederholt er bereits erledigte Arbeit?
- Erkennt er veraltete Annahmen?
- Bleiben Quellen und Freigaben mit dem Resultat verbunden?
- Wie verändern sich Kosten und Qualität nach der Kompaktierung?
Vergleichen Sie Varianten auf demselben Aufgabenpaket. Nur so sehen Sie, ob weniger Tokens tatsächlich weniger Kosten bedeuten oder ob die Nacharbeit steigt.
Die praktische Konsequenz
Für langlaufende Agenten ist Kontextpflege eine Betriebsfunktion. Sie braucht Datenmodelle, Berechtigungen, Versionierung, Evaluation und Stoppsignale. Wer nur das Modell austauscht, misst oft den Harness genauso stark wie das Modell.
Quellen
- OpenAI, How two settings tripled our ARC-AGI-3 scores: https://openai.com/index/how-two-settings-tripled-our-arc-agi-3-scores/
- OpenAI auf X, 29. Juli 2026: https://x.com/OpenAI/status/2082616636989952217
- OpenAI auf X, Retained Reasoning und Context Compaction: https://x.com/OpenAI/status/2082616640144048433
- NIST AI Risk Management Framework: https://www.nist.gov/itl/ai-risk-management-framework
Nächster Schritt
Wählen Sie einen Agenten-Workflow mit mindestens zehn Schritten. Zeichnen Sie auf, welche Informationen nach jedem Schritt erhalten, verdichtet, verworfen oder separat protokolliert werden. Testen Sie danach zwei Kontextstrategien gegen dieselben Aufgaben und messen Sie Qualität, Wiederholungen, Kosten und menschliche Nacharbeit.