RAG.

Der Begriff geht auf eine Forschungsarbeit von Lewis et al. aus dem Jahr 2020 zurück. Die Idee: Ein Sprachmodell speichert Wissen nur unscharf in seinen Parametern. Kombiniert man es mit einer Suche in externen Dokumenten, werden Antworten aktueller, genauer und mit Quellen belegbar.

Warum ist das wichtig?

RAG ist der Grund, warum klassische Auffindbarkeit auch in der KI-Suche zählt. Der Ablauf ist vereinfacht immer gleich:

1. Die Nutzerfrage wird in eine oder mehrere Suchanfragen übersetzt, bei Google etwa per Query Fan-out.
2. Ein Retriever holt passende Dokumente oder Textabschnitte aus einem Index.
3. Das Sprachmodell formuliert die Antwort auf Basis dieser Abschnitte und verlinkt sie als Quelle – das ist das Grounding.

Für Unternehmen folgt daraus: Eine Seite, die nicht gecrawlt und indexiert wird, kann nicht abgerufen werden. Eine Seite, deren Kernaussage in einem langen Fließtext versteckt ist, liefert schlechtere Abschnitte für Schritt 2. Klare Überschriften und in sich verständliche Absätze helfen, weil Retriever häufig mit Textausschnitten statt ganzen Seiten arbeiten.

Beispiel

Ein Einkäufer fragt Perplexity: „Welche Toleranzen erreicht Laserschneiden bei 10 mm Edelstahl?“ Perplexity sucht im Web, findet unter anderem die Technikseite eines hypothetischen Lohnfertigers aus Thüringen und übernimmt daraus den Satz mit der konkreten Toleranzangabe samt Link. Ein Wettbewerber mit derselben Information in einem eingescannten PDF-Katalog wird nicht gefunden, weil der Text dort nicht maschinenlesbar ist.

Abgrenzung

RAG beschreibt das Gesamtverfahren aus Abruf und Generierung. Grounding bezeichnet die Bindung der Antwort an die abgerufenen Quellen. Ein Modell ohne RAG antwortet nur aus Trainingswissen und neigt eher zu Halluzinationen.