Context Engineering: So bekommt KI die richtigen Informationen

KI-Modelle können erstaunlich viel, wenn man ihnen die richtigen Informationen gibt. Das Problem: Zu wenig Kontext liefert generische Ergebnisse, zu viel Kontext senkt Qualität und treibt Kosten. Context Engineering löst dieses Dilemma. Teil 1 unseres Leitfadens erklärt das Konzept, die technischen Hintergründe und den wichtigsten Denkwechsel für die Praxis. Auf einen Blick Context Engineering beschreibt die Kunst und Methode, einem KI-Modell zur richtigen Zeit die richtigen Informationen bereitzustellen, damit es die bestmöglichen Ergebnisse liefert. Die zentrale Frage lautet: Welche Informationen benötigt die KI, um meine Aufgabe gut zu erledigen? Dieses Prinzip kennen wir aus dem Arbeitsalltag. Wenn eine neue Kollegin zum ersten Mal einen Abschlussbericht schreiben soll, braucht sie Zugang zu Unternehmensdaten, Vorlagen, Abteilungsberichten und Stilvorgaben. Ohne diesen Kontext wird der Bericht bestenfalls generisch, mit dem richtigen Kontext wird er brauchbar. Die bewusste Entscheidung, welche Informationen wir ihr geben (und welche nicht), ist bereits eine Form von Context Engineering. Bei KI-Modellen gilt dasselbe Prinzip, nur dass hier zusätzlich technische Grenzen ins Spiel kommen. Denn KI-Modelle arbeiten mit einem sogenannten Kontextfenster, dem begrenzten Arbeitsspeicher, in den alle Informationen passen müssen: dein aktueller Prompt, der bisherige Chatverlauf, hochgeladene Dokumente, System-Anweisungen der Plattform und gegebenenfalls automatisch hinzugezogene Informationen. All das zusammen bildet den Kontext, alles, was das Modell bei einer Anfrage „sieht". Und wie wir gleich sehen werden, ist „passt rein" nicht dasselbe wie „wird auch genutzt". Context Engineering bedeutet also, bewusst zu steuern, was in diesem Raum steht. Der Prompt ist deine Eingabe an das KI-Modell, egal ob einfachen Frage bis zum mehrteiligen Arbeitsauftrag. Er ist das, was du kontrollierst, aber bei laufenden Chats trotzdem nur ein Baustein des Kontexts. Denn wenn der restliche Kontext aus altem Chatverlauf mit irrelevante Dokumenten das Fenster verstopft, leidet das Ergebnis trotzdem. Wir empfehlen daher neue Chats bzw. API-Calls für jede Aufgabe. Prompt Engineering, also das gezielte Formulieren von Eingaben, ist dabei ein wichtiger Baustein des Context Engineerings, aber eben nur ein Teil davon. Context Engineering umfasst darüber hinaus auch, wie Dokumente ausgewählt, Chatverläufe gesteuert und Informationen über mehrere Arbeitsschritte hinweg organisiert werden. Alles übers Prompt Engineering gibt es in unserem Deep Dive und Webinar zum Thema. Warum ist Context Engineering wichtig? Es gibt drei zentrale Gründe. Ohne Kontext bleiben Ergebnisse generisch. Zu viel Kontext senkt die Qualität. Und unkontrollierter Kontext treibt die Kosten. Ohne Kontext bleiben Ergebnisse generisch oder falsch Wer einem KI-Modell eine Aufgabe ohne Kontext gibt, bekommt oft Platzhalter, Allgemeinplätze oder schlicht erfundene Details zurück. Das Modell weiß nicht, was du weißt, und du weißt nicht, was das Modell weiß. Vorher (ohne Kontext) Prompt: "Schreibe eine Pressemitteilung über unser neues Produkt." Ergebnis: Ein generischer Text mit Platzhaltern, allgemeinen Floskeln und erfundenen Details, unbrauchbar ohne manuelle Überarbeitung. Nachher (mit Kontext) Prompt: "Schreibe eine Pressemitteilung über unser neues Produkt XY. Hier ist der Presseabbinder unseres Unternehmens [eingefügt] und die Zielgruppe sind IT-Entscheider in mittelständischen Unternehmen. Hier sind die technischen Spezifikationen [eingefügt] und drei bisherige Pressemitteilungen als Stilreferenz [eingefügt]." Ergebnis: Ein sofort verwendbarer Entwurf im richtigen Stil, mit korrekten Unternehmensdaten und passender Ansprache. Der Prompt enthält eine klare Aufgabe, Hintergrundinformationen und die konkreten Unterlagen für diesen Schritt. Weiter unten im Artikel zeigen wir, warum es sich lohnt, diese Bestandteile bewusst zu trennen. Mehr Kontext heißt nicht automatisch bessere Ergebnisse Die naheliegende Reaktion wäre, dem Modell einfach so viel Kontext wie möglich zu geben. Aber genau hier liegt die Falle und der Kern dessen, warum Context Engineering nötig ist. Das Kontextfenster ist ein Arbeitsspeicher und kein Lagerraum. Alles, was darin steht, wird bei jeder neuen Anfrage erneut verarbeitet, inklusive des gesamten bisherigen Chatverlaufs. Ein Chat, der sich über Stunden aufgebaut hat und 100.000 Token enthält (das entspricht ungefähr 300 Seiten im DIN-A4-Format), verursacht bei jeder weiteren Frage im Chat erhebliche Rechenkosten und gleichzeitig sinkt die Qualität. Die Ausgabe wird ungenauer oder sogar fehlerhaft. Dafür gibt es drei gut dokumentierte Gründe. Kontextverfall (Context Rot). Obwohl aktuelle Modelle Kontextfenster von bis zu 2 Millionen Token ( etwa 6.000 Seiten Text) anbieten, können sie nur einen Bruchteil davon zuverlässig nutzen. Benchmarks zeigen, dass die Genauigkeit beim Aufspüren von Informationen bei den meisten Modellen bereits ab ca. 128.000 Token (etwa 380 Seiten) massiv einbricht. Selbst die leistungsfähigsten Reasoning-Modelle wie GPT-5.2-Thinking oder Opus 4.6 stoßen bei rund 256.000 Token (etwa 770 Seiten) an ihre Grenzen, obwohl ihr offizielles Kontextfenster deutlich größer ist. Im Klartext bedeutet das, dass das Modell Ihre Dokumente zwar annimmt, aber weite Teile davon ignoriert. Auch eine Auslassung kann ein Fehler sein. Das Risiko ist, dass man diese nicht unbedingt bemerkt. Von "Lost in the Middle" zu "Lost in the Beginning" (LiM). Sprachmodelle beachten Inhalte am Anfang und am Ende einer Eingabe stärker als Inhalte in der Mitte. Instruktionen oder wichtige Details, die irgendwo in der Mitte eines langen Chatverlaufs stehen, werden häufig übersehen oder untergewichtet. Neuere Untersuchungen zeigen, dass LiM mutmaßlich bis zu 50 Prozent des Kontextfensters am stärksten ist und längere Inhalte den Effekt mit Bezug auf die Mitte des Dokuments abschwächen. Allerdings bevorzugen die Modelle dann Inhalte am Ende des Dokuments deutlich stärker – das Problem verschiebt sich also lediglich. Aufmerksamkeitskonkurrenz. Je mehr Inhalte im Kontextfenster stehen, desto schwerer fällt es dem Modell, Wichtiges von Unwichtigem zu trennen. Alte Iterationen, längst korrigierte Fehler oder irrelevante Passagen aus hochgeladenen Dokumenten können das Modell in die Irre führen. Tonalitätsvorgaben vom Anfang des Chats "rutschen aus dem Fokus" und bereits behobene Fehler tauchen wieder auf. Der Entwickler Dex Horthy hat dafür ein anschauliches Bild geprägt: Alles jenseits von etwa 40 Prozent der Kontextfenster-Kapazität ist die "Dumb Zone", ein Bereich, in dem die beschriebenen Phänomene wie Kontextverfall und LiM zusammenwirken und die Ergebnisqualität deutlich sinken lassen. Das gilt für leistungsstarke Modelle etwa von Anthropic, Google oder OpenAI. Bei schwächeren Modellen, die gleichzeitg große Kontextfenster mitbringen, kann diese Zone natürlich noch deutlich früher anfangen. Unkontrollierter Kontext kostet Geld Neben der Qualität hat unkontrollierter Kontext auch einen direkten Kosteneffekt, denn Token kosten Geld. Und weil bei jeder neuen Nachricht der gesamte bisherige Chatverlauf erneut verarbeitet wird, wachsen die Kosten mit jeder Interaktion. Es ist zudem nicht umweltfreundlich. Reasoning-Modelle wie GPT-5.2-Thinking oder Opus 4.6 erzeugen zusätzlich interne "Thinking"-Token, die ebenfalls abgerechnet werden. Das Tückische daran ist, dass diese Kosten auf vielen Plattformen für die Nutzenden oft unsichtbar bleiben, weil sie nicht pro Nachricht ausgewiesen werden, sondern sich im Hintergrund aufaddieren. Wer eine Flatrate hat, stößt womöglich schneller an die Grenzen des Tarifs. Gezieltes Context Engineering wirkt doppelt: Weniger, aber relevanterer Kontext spart Token und verbessert gleichzeitig die Qualität. Für Entwickler interessant: Für wiederkehrende Kontexte bieten mehrere Anbieter Caching an, bei dem häufig wiederverwendete Inhalte gespeichert statt bei jeder Anfrage neu berechnet werden. Und nicht jede Aufgabe benötigt das größte Modell. Für Zusammenfassungen oder einfache Umformulierungen reichen oft günstigere, schnellere Modelle wie GPT-5 mini, Claude Haiku oder Gemini Flash. Inhalt kuratieren statt "einfach alles reinwerfen" Context Engineering heißt: gezielt auswählen, was das Modell wirklich benötigt, um eine Aufgabe verlässlich zu lösen. Diese Fähigkeit ist eine gute Investition, unabhängig davon, wie groß Kontextfenster in Zukunft werden. Denn sie schärft das eigene Denken: Welche Teilschritte hat meine Aufgabe? Was weiß das Modell bereits, was muss ich liefern? Dieses bewusste Nachdenken über die eigene Denkarbeit kostet zunächst Energie – warum sich das trotzdem lohnt, beschreiben wir in unserem Beitrag zu metakognitiven Aufwänden. Context Engineering erfordert anfangs Aufwand für die Aufbereitung von Dokumenten, das Erstellen von Briefings und die Pflege von Arbeitsunterlagen. Diese Investition zahlt sich aus, wenn du wiederkehrende Aufgaben hast, bei denen konsistent hohe Qualität gefordert ist. Ein gut gepflegtes Kontext-Setup lässt sich über Monate wiederverwenden und skaliert mit deinem Team. Mit der zunehmenden Verwendung von verschiedenen Datentypen wie Videos, Fotos, Audio und Text in realen Arbeitsszenarien mit KI-Modellen wächst die Herausforderung an die Modelle und den gleichzeitig zu beachtenden Kontext zudem weiter. …delicate art and science of filling the context window with just the right information for the next step. Andrej Karpathy Wie kommt Kontext ins Modell? In der Praxis gibt es vier Wege, Kontext bereitzustellen, geordnet von einfach bis komplex. Für die meisten Anwender im Arbeitsalltag sind die ersten beiden Wege der Startpunkt. Weg Was passiert Beispiel Aufwand Im Prompt Sie schreiben Kontext direkt in die Eingabe, als Fakten, Regeln oder Beispiele. Presseabbinder und Stilregeln im Chat-Prompt Gering Datei-Upload Sie hängen Dokumente an den Chat an, die das Modell liest. PDF eines Quartalsberichts in ChatGPT oder Claude hochladen Gering Anbindung an externe Systeme Das Modell greift eigenständig auf externe Quellen zu. KI-System durchsucht eine Wissensdatenbank oder das Internet Mittel bis hoch Arbeitsbereich Das Modell hat Zugriff auf eine indexierte Dateisammlung, entscheidet selbst, was es heranzieht und kann eigene Dateien anlegen. Claude Code liest dein Projekt; Copilot greift auf SharePoint zu Hoch Je weiter du dich auf dieser Skala bewegst, desto mehr Kontext fließt automatisch, aber desto wichtiger wird auch das bewusste Management dieses Kontexts, um die oben beschriebenen Qualitätsprobleme zu vermeiden. Warum ist Context Engineering bei KI-Agenten besonders wichtig? Alles Bisherige gilt bereits für die alltägliche Chat-Nutzung. Bei KI-Agenten, also Systemen, die eigenständig in Schleifen arbeiten, Werkzeuge nutzen und Zwischenergebnisse produzieren, wird Context Engineering noch wichtiger, weil deutlich mehr Kontext anfällt. Ein Agent braucht neben der eigentlichen Aufgabe auch Orientierung: Welche Dokumente sind relevant? Welcher Jargon ist üblich? Welche Werkzeuge stehen zur Verfügung? Ohne diesen Kontext agiert er wie ein neuer Mitarbeiter ohne Einarbeitung. Kommen mehrere Agenten zusammen, wächst die Herausforderung: Ihre Kommunikation untereinander füllt das Kontextfenster zusätzlich. Welcher Agent bekommt welche Zwischenergebnisse? Welche kann er ignorieren? Diese Informationsflüsse zu steuern, ist eine zentrale Aufgabe des Context Engineerings. Context Engineering is effectively the #1 job of engineers building AI agents. – Cognition Was gehört in den Kontext – und was nicht? Die Kurzformel von Anthropic: Guter Kontext ist die kleinste Menge an Informationen, die das Modell benötigt, um die Aufgabe bestmöglich zu erledigen. Ein 200-seitiges Handbuch komplett einzuspeisen, wenn nur Kapitel 4 relevant ist, ist kein guter Kontext. Kapitel 4 allein dagegen schon. Aber wie entscheidest du in der Praxis, was rein soll und was nicht? Eine hilfreiche Unterscheidung: Nicht alles, was du dem Modell gibst, hat dieselbe Rolle und dieselbe Lebensdauer. Wenn du das berücksichtigst, lassen sich die oben beschriebenen Probleme besser vermeiden. Eine nützliche Unterscheidung In dem, was du dem Modell übergibst, lassen sich drei Ebenen erkennen: Die Aufgabe: Was soll das Modell jetzt tun? („Schreibe ein Angebot für Kunde X auf Basis der Ausschreibung.") Das wechselt bei jedem Arbeitsschritt. Inhalte, die für verschiedene Aufgaben gleich bleiben: Für wen, in welchem Stil, mit welchen Vorgaben? (Unternehmensprofil, Leistungsportfolio, Preisstruktur, Tonalität, Formulierungsregeln wie „keine Anglizismen in Überschriften".) Das bleibt über viele Chats hinweg stabil und wird nur bewusst aktualisiert. Vieles davon steckt vermutlich schon heute in deinen Prompts, besonders wenn du Prompt-Vorlagen pflegst. Wir nennen das im folgenden Text Briefing. Inhalte, die nur für die jeweilige Aufgabe wichtig sind: Womit soll das Modell arbeiten? (Die Ausschreibung des Kunden, Gesprächsnotizen aus dem Ersttermin, ein früheres Angebot als Referenz.) Das wechselt ebenfalls bei jedem Schritt. Wir nennen das im folgenden Arbeitsunterlagen. Diese Unterscheidung ist kein starres Schema, dem jeder Prompt folgen muss. Aber sie hilft, eine Frage zu beantworten: Was nehme ich in den nächsten Chat mit, und was lasse ich weg? Stabile Hintergrundinformationen (das Briefing) sollten in jedem neuen Chat verfügbar sein, sonst startet das Modell bei null. Wechselndes Material (Arbeitsunterlagen) gehört nur in den Chat, in dem es gebraucht wird, sonst füllt es das Kontextfenster mit irrelevantem Ballast. Und der Chatverlauf selbst, den viele übersehen, wächst mit jeder Nachricht automatisch und füllt ebenfalls das Kontextfenster. Im Gegensatz zu den drei anderen Ebenen kontrollierst du ihn nicht aktiv, er entsteht nebenbei. Genau deshalb empfiehlt sich bei längeren Projekten, regelmäßig einen neuen Chat zu starten. Bewusst trennen Daraus ergibt sich eine einfache Praxis: Das Briefing pflegst du als separates Dokument und kopierst es in jeden neuen Chat. So startet das Modell nie ohne Orientierung. Arbeitsunterlagen speist du nur für den aktuellen Arbeitsschritt ein. Für den nächsten Schritt startest du einen neuen Chat und lädst nur die Dokumente hoch, die du dort tatsächlich brauchst. Die Aufgabe formulierst du pro Schritt neu, klar und konkret, auch wenn du im selben Chat weiterarbeitest. Das Modell erinnert sich nicht zuverlässig an frühere Aufträge weiter oben im Verlauf. Wie sieht ein Briefing konkret aus? Ein Briefing muss nicht - kann aber - aufwendig sein. Auch hier lohnt sich ein Blick in das Thema Prompt Engineering. Für ein Team, das regelmäßig Kundenangebote schreibt, könnte es so aussehen: Unternehmen: [Name, Kurzprofil] Leistungsportfolio: Cloud-Migration, Managed Services, Security Audits Preisstruktur: Tagessätze nach Seniorität, Paketpreise ab Projektvolumen 20.000 € Tonalität: Verbindlich, lösungsorientiert, kein Fachjargon ohne Erklärung Formatvorgaben: Maximal 8 Seiten, Executive Summary auf Seite 1, Preistabelle als letzter Abschnitt Einschränkungen: Keine Rabatte ohne Rücksprache. Keine Zusagen zu Timelines unter 4 Wochen. Dieses Dokument kopierst du in jeden neuen Chat. Die Arbeitsunterlagen wechseln (für Kunde A die Ausschreibung und Gesprächsnotizen, für Kunde B ein bestehendes Angebot zur Anpassung, für Kunde C eine RFP mit technischem Anforderungskatalog), die Aufgabe formulierst du jedes Mal neu. So bleibt das Kontextfenster schlank und das Modell behält die Orientierung. Wie oft du das Briefing aktualisierst, hängt vom Anwendungsfall ab. Bei Kundenangeboten reicht es vielleicht einmal im Quartal, wenn sich Preise oder Leistungen ändern. In Multi-Agenten-Systemen dagegen wird das Briefing nach jedem einzelnen Arbeitsschritt automatisch aktualisiert, weil ein Agent seine Zwischenergebnisse für den nächsten verdichten muss. Die Spanne reicht also von „alle paar Monate" bis „alle paar Sekunden". Das Prinzip bleibt dasselbe: Nicht den gesamten Verlauf weiterreichen, sondern das Ergebnis verdichten. Bevor du loslegst: Rahmenbedingungen prüfen Wie gut Context Engineering funktioniert, hängt auch von deinem KI-Tool ab. Prüf zunächst: Welche Dateiformate akzeptiert es? Gibt es eine Funktion für dauerhaften Kontext, etwa Projekte oder Custom Instructions in ChatGPT und Claude? Wie groß ist das Kontextfenster? Auch das Format, in dem Inhalte geliefert werden, spielt eine Rolle: KI-Modelle verarbeiten Text am zuverlässigsten. Styleguides, Glossare und Prozessbeschreibungen sollten daher als Markdown oder Plain Text vorliegen. PDFs funktionieren, solange sie nicht gescannt sind oder das Modell zuverlässiges OCR unterstützt. Bilder, Audio und Video werden zunehmend unterstützt, sind aber tokenintensiv und weniger zuverlässig. Mehr dazu, wie du Kontext in der Praxis aufbaust, pflegst und über mehrere Arbeitsschritte hinweg steuerst, erfährst du nächste Woche im zweiten Teil unserer Context-Engineering-Reihe.

Context Engineering: So bekommt KI die richtigen Informationen

heise KI PROKI VERSTEHEN UND ANWENDEN

heise KI PRO
KI VERSTEHEN UND ANWENDEN