Glossaire IA

L'unité de base du texte que les modèles de langage traitent et facturent.

Le nombre maximal de tokens qu'un modèle peut traiter en une seule requête.

Réseau de neurones entraîné sur d'immenses corpus de texte pour générer du langage naturel.

Grand modèle pré-entraîné servant de base à de nombreuses applications.

Le fait d'exécuter un modèle entraîné pour produire des sorties à partir de nouvelles entrées.

Le texte produit par un modèle de langage en réponse à un prompt.

L'art de concevoir les entrées pour obtenir les meilleures sorties d'un modèle.

Bloc d'instructions envoyé avant la conversation, qui configure le comportement du modèle.

Vecteur numérique dense encodant le sens sémantique d'un texte.

Paramètre d'échantillonnage qui contrôle le degré d'aléatoire de la sortie.

Stratégie limitant le choix au plus petit ensemble de tokens atteignant une probabilité donnée.

Livrer la sortie token par token au fil de la génération plutôt qu'attendre la réponse complète.

Le délai entre l'envoi d'une requête et la réception du premier token de réponse.

Nombre de tokens ou de requêtes qu'un modèle peut traiter par seconde.

Enrichir les réponses en récupérant des documents pertinents depuis une source externe.

Base de données optimisée pour stocker et rechercher des vecteurs d'embedding en haute dimension.

Recherche qui renvoie des résultats selon le sens plutôt que selon la correspondance exacte de mots.

Demander au modèle d'accomplir une tâche sans lui fournir d'exemple.

Inclure quelques paires entrée / sortie dans le prompt pour guider le modèle.

Technique consistant à demander au modèle de raisonner étape par étape avant de répondre.

Système fondé sur un LLM qui agit de façon autonome pour atteindre un objectif.

La capacité du modèle à appeler des fonctions ou des API externes.

Date au-delà de laquelle le modèle n'a plus de données d'entraînement.

Algorithme convertissant du texte brut en une suite de tokens.

Coût par million de tokens pour ce que vous envoyez dans le prompt.

Coût par million de tokens produits par le modèle.

Fonction du fournisseur qui conserve un préfixe réutilisable pour ne pas le refacturer en entier.

Envoyer des requêtes en masse et de façon asynchrone contre 50 % de remise.

Architecture où seule une partie des paramètres est activée par token.

L'architecture de réseau de neurones sur laquelle reposent presque tous les LLM modernes.

L'opération centrale des transformers qui permet à chaque token de pondérer tous les autres.

Compresser les poids du modèle vers une précision numérique plus faible pour réduire mémoire et coût.

Modèle capable de traiter et de générer plusieurs types de données, comme du texte et des images.

Poids apprenable d'un réseau de neurones ; la taille d'un modèle se mesure en milliards.

Unité standard pour exprimer l'échelle d'un modèle.

Variante de modèle qui réfléchit explicitement étape par étape avant de répondre.

Poursuivre l'entraînement d'un modèle pré-entraîné sur des données d'un domaine précis.

La phase initiale d'entraînement à grande échelle où le modèle apprend la langue.

Entraîner le modèle sur des paires instruction / réponse idéale pour qu'il suive les consignes.

Méthode d'entraînement alignant les sorties du modèle sur les préférences humaines.

Lorsqu'un modèle produit une information plausible mais fausse.

Rattacher les réponses du modèle à des sources réelles et vérifiées.

Domaine visant à ce que les systèmes d'IA se comportent conformément aux valeurs humaines.

Méthode d'entraînement où le modèle critique et corrige ses propres sorties selon des principes écrits.

Attaque où un texte malveillant présent dans l'environnement détourne les instructions du modèle.

Discipline visant à ce que les systèmes d'IA soient fiablement bénéfiques.

Benchmark mesurant connaissances et raisonnement sur 57 matières.

Benchmark de programmation mesurant la capacité à écrire des fonctions Python correctes.

Mesure de la capacité d'un modèle à prédire un texte ; plus elle est basse, mieux c'est.