Reise
Tools, MCP und Skills
Kontext: RAG, Komprimierung und Cache
IDE-Agent und Subagenten
Labor
200.000 Tokens
Kontextfenster bei «Den Kontext zusammenstellen»0 Tokens · 0 % des Fensters
- System-Prompt 0
- Verlauf der Unterhaltung 0
- Dein Prompt 0
- Abgerufene Dokumente (RAG) 0
Den Kontext zusammenstellen
Was passiert. Die Anfrage wird zusammengestellt: der Verlauf (oder seine Zusammenfassung, falls er nicht mehr passt), die vom RAG abgerufenen Dokumente und dein Prompt, in fester Reihenfolge. Ein Präfix, das sich zwischen Anfragen nicht ändert, lässt sich cachen und wird günstiger.
Was schiefgehen kann. Ein abgerufenes Dokument kann einen versteckten Befehl enthalten: Das ist die indirekte Injection. Beim Komprimieren des Verlaufs kann eine deiner Anweisungen verloren gehen. Und eine Änderung am Anfang der Anfrage bricht den Cache.
Im Detail:/embeddings/llm-costs/context-forge
Die Antwort erreicht den Nutzer.
Alles, was die Detektoren gefunden haben, wurde von irgendeiner Schicht gesehen.