Retrieval-Augmented Generation (RAG)
Retrieval-Augmented Generation (RAG) ist ein Muster, bei dem zur Abfragezeit relevante Dokumente aus einem externen Speicher geholt und in den Prompt eingefügt werden, sodass das Modell aus diesem frischen, spezifischen Material antwortet statt allein aus dem Gedächtnis.
Das eingebaute Wissen eines Modells ist zum Trainingszeitpunkt fixiert und kann private oder aktuelle Daten nicht abdecken. RAG schließt diese Lücke: Die Anfrage des Nutzers wird verwendet, um eine Wissensbasis zu durchsuchen (oft per Vektor-Ähnlichkeit), die besten Treffer werden in das Kontextfenster gezogen, und das Modell wird gebeten, darauf gestützt zu antworten. Das macht Antworten aktuell und spezifisch, erlaubt Quellenangaben und verringert Halluzinationen — vorausgesetzt, das Retrieval fördert tatsächlich das richtige Material zutage.
Kernpunkte
- Relevante Textabschnitte zur Abfragezeit abrufen, in den Prompt einfügen und dann die darauf gestützte Antwort erzeugen.
- Hält Antworten aktuell und domänenspezifisch, ohne das Modell neu zu trainieren.
- Ermöglicht Quellenangaben und verringert Halluzinationen — aber nur so weit, wie es die Qualität des Retrievals zulässt.
- Die Retrieval-Qualität (Chunking, Embeddings, Ranking) ist meist wichtiger als die Wahl des Modells.
Lern es durch Bauen
Way of the Agent bringt dir AI-Agent-Engineering Level für Level bei — Konzepte wie dieses, dann Praxis, XP und die AI Chronicles.
Kostenlos starten →