- Prompt système 0
- Historique de la conversation 0
- Ton prompt 0
- Documents récupérés (RAG) 0
Assembler le contexte
Ce qui se passe. La requête est assemblée : l'historique (ou son résumé, s'il ne rentre plus), les documents que récupère le RAG et ton prompt, dans un ordre fixe. Un préfixe qui ne change pas entre les requêtes peut être mis en cache et coûte moins cher.
Ce qui peut mal se passer. Un document récupéré peut apporter un ordre caché : c'est l'injection indirecte. En compactant l'historique, une de tes instructions peut se perdre. Et un changement au début de la requête casse le cache.
En détail :/embeddings/llm-costs/context-forge
La réponse arrive à l'utilisateur.
Tout ce que les détecteurs ont trouvé a été vu par une couche.