Concepts Fondamentaux
Température
Paramètre d'échantillonnage qui contrôle le degré d'aléatoire de la sortie.
La température règle la prise de risque du modèle au moment de choisir le token suivant. Des valeurs basses (0-0,3) donnent des résultats constants et prévisibles, adaptés à l'extraction et à la classification. Des valeurs élevées (0,7-1,0) augmentent la variété, utile en écriture créative. À noter : une partie des modèles récents n'accepte plus ce paramètre et se pilote uniquement par le prompt.
Termes Associés
Top-P (Échantillonnage par Noyau)
Stratégie limitant le choix au plus petit ensemble de tokens atteignant une probabilité donnée.
Complétion
Le texte produit par un modèle de langage en réponse à un prompt.
Inférence
Le fait d'exécuter un modèle entraîné pour produire des sorties à partir de nouvelles entrées.