Sécurité et Éthique
Hallucination
Lorsqu'un modèle produit une information plausible mais fausse.
Une hallucination est une invention énoncée avec assurance : une source inexistante, une date erronée, une fonction imaginaire. Les modèles étant entraînés à produire le probable et non le vrai, ce n'est pas un bug ponctuel mais une conséquence du principe même. L'ancrage et le RAG réduisent le risque en reliant le modèle à des sources réelles, sans l'éliminer.
Termes Associés
RAG (Génération Augmentée par Récupération)
Enrichir les réponses en récupérant des documents pertinents depuis une source externe.
Ancrage (Grounding)
Rattacher les réponses du modèle à des sources réelles et vérifiées.
Utilisation d'Outils (Function Calling)
La capacité du modèle à appeler des fonctions ou des API externes.
Date de Coupure des Connaissances
Date au-delà de laquelle le modèle n'a plus de données d'entraînement.