Concepts Fondamentaux
Prompt Système
Bloc d'instructions envoyé avant la conversation, qui configure le comportement du modèle.
Le prompt système précède les messages de l'utilisateur et définit l'identité, le ton, les règles et les limites du modèle. Il est renvoyé à chaque requête et pèse donc directement sur le coût : un long prompt système se paie encore et encore. La mise en cache de contexte existe précisément pour rendre cette répétition moins chère.
Termes Associés
Ingénierie de Prompt
L'art de concevoir les entrées pour obtenir les meilleures sorties d'un modèle.
Complétion
Le texte produit par un modèle de langage en réponse à un prompt.
Token (Jeton)
L'unité de base du texte que les modèles de langage traitent et facturent.
Mise en Cache de Contexte
Fonction du fournisseur qui conserve un préfixe réutilisable pour ne pas le refacturer en entier.