Grundkonzepte
Completion (Vervollständigung)
Der Text, den ein Sprachmodell als Antwort auf einen Prompt erzeugt.
Die Completion ist die Antwort des Modells auf Ihre Eingabe. In API-Begriffen sind das Ausgabe-Tokens, üblicherweise 2- bis 5-mal teurer als Eingabe-Tokens, denn Erzeugen erfordert weit mehr Rechenaufwand als Lesen. Die Länge der Antwort bestimmt unmittelbar Ihre Ausgabekosten: um Kürze zu bitten, spart echtes Geld.
Verwandte Begriffe
Token
Die Grundeinheit des Textes, die Sprachmodelle verarbeiten und nach der abgerechnet wird.
Ausgabepreis
Kosten pro Million Tokens, die das Modell erzeugt.
Streaming
Die Ausgabe Token für Token ausliefern, während sie entsteht, statt auf die vollständige Antwort zu warten.
System-Prompt
Anweisungsblock vor dem Gespräch, der das Verhalten des Modells konfiguriert.