Context Rot: Warum mehr Kontext KI-Antworten schlechter macht

Was ist Context Rot?

Jede KI, die mit Sprache arbeitet, hat eine begrenzte Arbeitsfläche: das Kontextfenster. Alles, was das Modell für eine Antwort berücksichtigen soll, muss auf diese Fläche passen.

Auf dem Schreibtisch der KI liegen dabei nicht nur Ihre Frage und die Dokumente, aus denen sie antworten soll. Dazu kommen Anweisungen, der bisherige Gesprächsverlauf und, wenn die KI Werkzeuge nutzt, die Beschreibungen dieser Werkzeuge. Gemessen wird der Platz in Tokens. Ein Token entspricht grob einer Silbe oder einem kurzen Wort. Große Modelle verarbeiten heute Fenster mit 200.000 Tokens und mehr, das entspricht mehreren hundert Seiten Text.

Die naheliegende Idee lautet daher: Wenn so viel Platz da ist, gibt man der KI eben alles mit, was irgendwie passen könnte. Genau hier setzt der Begriff Context Rot an. Er beschreibt die Beobachtung, dass die Qualität der Antworten nachlässt, je voller das Kontextfenster wird. Die Information steht dann zwar irgendwo im Kontext, wird aber übersehen, falsch gewichtet oder mit einem ähnlichen Text verwechselt.

Das ist kein Fehler eines einzelnen Anbieters. Das Forschungsteam von Chroma hat im Juli 2025 18 Sprachmodelle verschiedener Hersteller getestet, darunter GPT-4.1, Claude 4, Gemini 2.5 und Qwen3. Das Ergebnis: Bei allen Modellen wurden die Ergebnisse mit wachsender Eingabe unzuverlässiger, auch bei einfachen Aufgaben. Die Größe des Fensters ist also eine Obergrenze, keine Zusage, dass das Modell den gesamten Inhalt gleich gut nutzt.

Für die Praxis heißt das: Die Frage ist nicht, wie viel in den Kontext passt, sondern was hineingehört. Ein aufgeräumter Schreibtisch mit wenigen passenden Unterlagen führt zu besseren Antworten als ein Stapel, auf dem die richtige Seite irgendwo liegt.

Warum passiert das?

Sprachmodelle lesen eine Eingabe nicht wie ein Mensch von oben nach unten und merken sich das Wichtige. Vereinfacht gesagt setzt das Modell jedes Token mit allen anderen in Beziehung und entscheidet so, was für die Antwort zählt. Je mehr Text auf der Arbeitsfläche liegt, desto mehr Kandidaten konkurrieren um diese Aufmerksamkeit. Drei Effekte verstärken das.

Die Mitte wird eher übersehen

Wo eine Information im Kontext steht, entscheidet mit, ob die KI sie nutzt. Eine Untersuchung von Liu und Kollegen aus dem Jahr 2023 zeigt: Modelle nutzen Informationen am Anfang und am Ende einer langen Eingabe deutlich besser als Informationen in der Mitte. Das gilt auch für Modelle, die ausdrücklich für lange Kontexte gebaut sind. Probieren Sie es in der Grafik aus.

Fast gleiche Dokumente lenken ab

Besonders schwierig wird es, wenn mehrere Texte einander sehr ähnlich sind. In Unternehmensablagen ist das der Normalfall: Ein Angebot liegt als zweite Fassung, als „final“, als „final_fertig“ und als Kopie in verschiedenen Ordnern. Für die KI sehen diese Dateien fast gleich aus. Chroma hat genau solche Ablenker getestet. Schon ein einziger ähnlicher, aber falscher Text verschlechtert die Ergebnisse, mehrere verschlechtern sie weiter.

Das Beispiel zeigt kein Versagen der KI im eigentlichen Sinn. Sie greift zu einer Datei, die zur Frage passt, nur eben zur falschen Fassung. Wer die alte Fassung vorher aussortiert, nimmt der KI diese Verwechslung ab.

Der Platz ist schon vor der ersten Frage belegt

Viele KI-Anwendungen binden Werkzeuge an, etwa für E-Mail, Tickets oder Dateiablagen. Damit das Modell weiß, was ein Werkzeug kann, steht seine Beschreibung im Kontext, und zwar bei jeder Anfrage. Anthropic hat im November 2025 ein Beispiel mit fünf MCP-Servern beschrieben: GitHub, Slack, Sentry, Grafana und Splunk bringen zusammen 58 Werkzeuge mit. Allein deren Beschreibungen belegen rund 55.000 Tokens, bevor überhaupt eine Frage gestellt ist. Bei einem Fenster von 200.000 Tokens sind das 27,5 Prozent.

Dieser Platz fehlt dann für das, worauf es ankommt: Ihre Frage, die passenden Unterlagen und den Raum, in dem das Modell die Antwort entwickelt. Der Vergleich zeigt auch den anderen Weg: Statt fünf Konnektoren mit 58 Werkzeugen stellt die KI eine Anfrage an T5.Knowledge und bekommt nur die passenden Abschnitte zurück, jeweils mit Quelle und nach den Rechten des Nutzers. Die Anteile in dieser Grafik sind bis auf die Werkzeugbeschreibungen schematisch.

Was das für Unternehmen heißt

Viele Unternehmen verbinden ihre KI derzeit mit möglichst vielen Quellen: SharePoint, Outlook, Teams, das ERP-System, die Dokumentablage. Jeder Konnektor ist für sich sinnvoll. Liefern aber alle bei jeder Frage Rohmaterial auf den Schreibtisch der KI, entsteht genau die Lage aus der ersten Grafik: viel Text, wenig Platz zum Denken, wachsende Fehlergefahr.

Im Alltag einer Fachabteilung zeigt sich das an drei Stellen. Die folgenden Fälle sind Beispiele.

• Falsche Fassung: Der Vertrieb fragt nach dem aktuellen Preis eines Produkts. Die KI findet fünf fast gleiche Angebote und zitiert den Preis aus der Fassung von 2024.
• Übersehene Ausnahme: Im Personalwesen steht eine wichtige Sonderregel mitten in einem langen Handbuch. Die KI fasst den Anfang und das Ende des Dokuments zusammen, die Ausnahme fehlt.
• Lange Wartezeit: Je mehr Text das Modell bei jeder Anfrage verarbeitet, desto mehr Rechenzeit braucht es. Antworten kommen langsamer, und bei nutzungsabhängiger Abrechnung steigen die Kosten.

Hinzu kommt der Datenschutz. Wer der KI pauschal alles mitgibt, gibt ihr auch Inhalte, die für die Frage gar nicht nötig sind. Die Datenschutzkonferenz empfiehlt in ihrer Orientierungshilfe zu RAG-Systemen, nur die erforderlichen Dokumente aufzunehmen. Wie sich diese Empfehlungen umsetzen lassen, zeigt unser DSK-Abgleich.

Context Rot ist deshalb weniger eine Frage der Modellwahl als eine Frage der Vorbereitung. Ein neueres Modell mit größerem Fenster verschiebt die Grenze, hebt sie aber nicht auf.

Was hilft

Die gute Nachricht: Die Ursachen sind bekannt, und die Gegenmittel sind handfest. Sie laufen alle auf denselben Grundsatz hinaus: der KI nicht alles geben, sondern das Richtige.

Nachschlagen statt alles mitgeben

Statt ganze Ablagen in den Kontext zu laden, sucht ein vorgeschaltetes System zu jeder Frage die wenigen passenden Abschnitte heraus. Dieses Verfahren heißt Retrieval Augmented Generation, kurz RAG. Die KI bekommt dann eine Mappe mit drei passenden Passagen statt eines Stapels mit 28 Blättern. Wie RAG sich von Training und Fine-Tuning unterscheidet, erklärt die Seite KI mit eigenen Daten.

Vorher aufräumen

Kopien, Entwürfe und überholte Fassungen schaden in jedem Kontext. Es lohnt sich, in den Quellsystemen festzulegen, welche Ordner und Bereiche die KI überhaupt lesen soll, und alte Stände zu archivieren. Das verbessert die Antworten und dient zugleich der Datenminimierung.

Wichtiges an den Anfang stellen, Werkzeuge sparsam laden

Kurze, klare Anweisungen und wenige, gezielt geladene Werkzeuge lassen mehr Platz für das Wesentliche. Wichtige Informationen gehören an den Anfang oder an das Ende eines langen Kontexts, nicht in die Mitte.

Belege sichtbar machen

Eine Antwort, die ihre Quellen nennt, lässt sich prüfen. Zitiert die KI eine veraltete Datei, fällt das sofort auf, und die Datei kann in der Quelle korrigiert werden. Quellen sind damit die einfachste Versicherung gegen die Folgen von Context Rot.

So setzt T5.Knowledge diese Grundsätze um

T5.Knowledge, die Wissenssuche hinter unserer RAG API aus Deutschland, arbeitet nach diesem Prinzip:

• Jeder Abschnitt wird mit Titel und Kapitel seines Dokuments angereichert, Sinnabschnitte bleiben zusammen, ein Wissensgraph hält Zusammenhänge fest, und eine KI-Sortierung stellt die relevantesten Treffer nach vorn.
• Zu jeder Wissenssuche liefert T5.Knowledge die verwendeten Dokumente mit. T5.Chat zeigt sie als anklickbare Karten.
• Die Abfrage-Schnittstelle antwortet nur aus den gelieferten Quellen und sucht nicht im Internet.
• Die Suche zeigt nur Treffer, die der fragende Nutzer in der Quelle sehen darf. Was eine Person nicht sehen darf, landet auch nicht auf dem Schreibtisch der KI.

T5.Knowledge ist dafür über die RAG API als REST-Schnittstelle und über einen MCP-Server erreichbar. Welche Ordner und Quellen verarbeitet werden, bestimmen Sie selbst.