RAG (Abrufgestützte Generierung)
Kurzdefinition
RAG lässt ein KI-Modell vor der Antwort Informationen aus einer vertrauenswürdigen Dokumentenquelle abrufen, statt sich allein auf sein Gedächtnis zu verlassen.
RAG, abrufgestützte Generierung, lässt ein Sprachmodell im Moment der Anfrage ein bestimmtes Dokument oder eine Datenbank nachschlagen, statt sich nur auf das während des Trainings Gelernte zu stützen. Es sucht zunächst die passende Quelle und verfasst danach eine Antwort, die sich darauf stützt.
Dieses Verfahren verringert die Neigung des Modells, bei einem unbekannten oder veralteten Thema etwas zu erfinden, zu halluzinieren, denn die Antwort speist sich nun aus einer gezeigten Quelle statt aus allgemeinen Mustern.
Ein Unternehmen kann seinen eigenen Produktkatalog, FAQ-Texte oder Richtliniendokumente an ein RAG-System anbinden, sodass ein Kundenassistent ausschließlich mit den korrekten eigenen Daten spricht.
RAG wird oft mit einem Fine-Tuning des Modells verwechselt, dabei bleibt beim RAG das Modell selbst unverändert, es erhält zur Abfragezeit lediglich ein passendes Dokument, während Fine-Tuning die Gewichte des Modells neu trainiert. In der Praxis erkennen Sie RAG daran, dass die Antwort eine Quellenangabe oder einen Seitenverweis enthält; fehlt diese, stützt sich das Modell wohl nur auf sein ursprüngliches Training.
Warum es wichtig ist
Ein RAG-System einzurichten stellt sicher, dass ein KI-Assistent aus den eigenen korrekten Daten des Unternehmens spricht statt aus allgemeinem Wissen aus dem Internet. Das senkt das Risiko, einen falschen Preis oder eine falsche Richtlinie zu nennen, erheblich.
Beispielszenario
Ein Anbieter virtueller Zahlungsterminals hat seinen Support-Assistenten per RAG an die eigene technische Dokumentation angebunden, das Vorschlagen veralteter Integrationsschritte ist seitdem verschwunden.
