RAG (Retrieval-Augmented Generation) kombiniert Informationsabruf mit Textgenerierung. Es funktioniert in drei Schritten: indexieren, abrufen und generieren. Dieses Werkzeug zeigt die Schritte 1 und 2.
Teile den Korpus in Fragmente (durch eine Leerzeile getrennt) und berechne das Embedding jedes Fragments: einen numerischen Vektor, der seine Bedeutung erfasst.
Wenn eine Anfrage eintrifft, wird ihr Embedding berechnet und mit denen des Korpus über die Kosinus-Ähnlichkeit verglichen. Die K ähnlichsten Fragmente werden zurückgegeben.
In einem vollständigen RAG-System erhält ein LLM die abgerufenen Fragmente als Kontext und generiert die Antwort. Das Embedding-Modell ist all-MiniLM-L6-v2 (~22 MB), dasselbe, das im Werkzeug für semantische Ähnlichkeit verwendet wird.