Sicherheit und Ethik
Halluzination
Wenn ein Modell plausibel klingende, aber sachlich falsche Informationen erzeugt.
Eine Halluzination ist eine selbstbewusst vorgetragene Erfindung: eine nicht existierende Quelle, ein falsches Datum, ein ausgedachter Funktionsname. Da Modelle darauf trainiert sind, Wahrscheinliches statt Wahres zu erzeugen, ist das kein Einzelfehler, sondern eine Folge des Prinzips. Grounding und RAG senken das Risiko, indem sie das Modell an reale Quellen binden – beseitigen es aber nicht.
Verwandte Begriffe
RAG (Retrieval-Augmented Generation)
Antworten anreichern, indem passende Dokumente aus einer externen Quelle geholt werden.
Grounding (Verankerung)
Modellantworten an geprüfte, reale Quellen binden.
Werkzeugnutzung (Function Calling)
Die Fähigkeit des Modells, externe Funktionen oder APIs aufzurufen.
Wissensstichtag
Datum, ab dem das Modell keine Trainingsdaten mehr besitzt.