Tarification et Coûts
Mise en Cache de Contexte
Fonction du fournisseur qui conserve un préfixe réutilisable pour ne pas le refacturer en entier.
La mise en cache de contexte stocke côté fournisseur la partie identique répétée à chaque requête (long prompt système, document fixe, définitions d'outils) et la facture ensuite avec une remise, souvent au dixième du prix. Elle fonctionne par correspondance de préfixe : un seul caractère modifié au début invalide tout ce qui suit. C'est pourquoi le contenu variable se place en fin de prompt.
Termes Associés
Prix d'Entrée
Coût par million de tokens pour ce que vous envoyez dans le prompt.
Prompt Système
Bloc d'instructions envoyé avant la conversation, qui configure le comportement du modèle.
Token (Jeton)
L'unité de base du texte que les modèles de langage traitent et facturent.
RAG (Génération Augmentée par Récupération)
Enrichir les réponses en récupérant des documents pertinents depuis une source externe.