Tarification et Coûts
Traitement par Lots
Envoyer des requêtes en masse et de façon asynchrone contre 50 % de remise.
Le traitement par lots permet de mettre en file d'attente le travail qui n'exige pas de réponse immédiate ; le fournisseur le traite quand il a de la capacité et applique généralement 50 % de remise. Idéal pour l'enrichissement nocturne, la reprise d'historiques et les campagnes d'évaluation. Pour beaucoup d'équipes, l'économie dépasse celle d'un changement de modèle.
Termes Associés
Prix d'Entrée
Coût par million de tokens pour ce que vous envoyez dans le prompt.
Prix de Sortie
Coût par million de tokens produits par le modèle.
Débit (Throughput)
Nombre de tokens ou de requêtes qu'un modèle peut traiter par seconde.
Latence
Le délai entre l'envoi d'une requête et la réception du premier token de réponse.