Grundkonzepte
RAG (Retrieval-Augmented Generation)
Antworten anreichern, indem passende Dokumente aus einer externen Quelle geholt werden.
RAG sucht in einer Datenbank die für die Frage relevanten Dokumente und fügt sie dem Prompt hinzu, sodass das Modell gestützt auf diese Quellen antwortet. Es ist der verbreitetste Weg, mit aktuellen und unternehmenseigenen Informationen zu arbeiten, ohne das Modell neu zu trainieren. Es verringert Halluzinationen und erlaubt es, die Herkunft jeder Antwort zu belegen.
Verwandte Begriffe
Vektordatenbank
Datenbank, die auf das Speichern und Durchsuchen hochdimensionaler Embedding-Vektoren ausgelegt ist.
Embedding (Einbettung)
Dichter Zahlenvektor, der die Bedeutung eines Textes kodiert.
Grounding (Verankerung)
Modellantworten an geprüfte, reale Quellen binden.
Halluzination
Wenn ein Modell plausibel klingende, aber sachlich falsche Informationen erzeugt.