Benchmarks
Perplexité
Mesure de la capacité d'un modèle à prédire un texte ; plus elle est basse, mieux c'est.
La perplexité mesure à quel point le modèle est « surpris » par le texte qu'il rencontre. Une valeur faible signifie qu'il le prédit bien. Utile pour suivre l'entraînement, elle n'indique pas directement la qualité perçue : une perplexité basse ne garantit pas une réponse utile.
Termes Associés
MMLU
Benchmark mesurant connaissances et raisonnement sur 57 matières.
LLM (Grand Modèle de Langage)
Réseau de neurones entraîné sur d'immenses corpus de texte pour générer du langage naturel.
Pré-entraînement
La phase initiale d'entraînement à grande échelle où le modèle apprend la langue.
Tokeniseur
Algorithme convertissant du texte brut en une suite de tokens.