RAG (Retrieval-Augmented Generation) kombiniert Informationsabruf mit Textgenerierung. Es funktioniert in drei Schritten: indexieren, abrufen und generieren. Dieses Werkzeug zeigt die Schritte 1 und 2.
Teile den Korpus in Fragmente (durch eine Leerzeile getrennt) und berechne das Embedding jedes Fragments: einen numerischen Vektor, der seine Bedeutung erfasst.
Wenn eine Anfrage eintrifft, wird ihr Embedding berechnet und mit denen des Korpus über die Kosinus-Ähnlichkeit verglichen. Die K ähnlichsten Fragmente werden zurückgegeben.
In einem vollständigen RAG-System erhält ein LLM die abgerufenen Fragmente als Kontext und generiert die Antwort. Das Embedding-Modell ist all-MiniLM-L6-v2 (~22 MB), dasselbe, das im Werkzeug für semantische Ähnlichkeit verwendet wird.
Dieses Werkzeug lädt beim ersten Gebrauch ein mehrsprachiges KI-Modell (~150 MB) vom HuggingFace Hub herunter. Das Modell wird in deinem Browser gespeichert und nicht erneut heruntergeladen. Keiner deiner Texte verlässt das Gerät — die gesamte Verarbeitung erfolgt lokal.
huggingface.co · *.cdn.hf.co · cdn.jsdelivr.net — solo para descargar el fichero: no se envía nada tuyo.