Grundkonzepte
Token
Die Grundeinheit des Textes, die Sprachmodelle verarbeiten und nach der abgerechnet wird.
Ein Token ist ein Textstück – im Englischen etwa 4 Zeichen oder drei Viertel eines Wortes. Modelle zerlegen jede Ein- und Ausgabe zuerst in Tokens. API-Preise werden pro Million Tokens angegeben, womit die Tokenzahl der wichtigste Einzelfaktor Ihrer KI-Rechnung ist.
Verwandte Begriffe
Tokenizer
Algorithmus, der Rohtext in eine Folge von Tokens umwandelt.
Eingabepreis
Kosten pro Million Tokens für das, was Sie im Prompt senden.
Ausgabepreis
Kosten pro Million Tokens, die das Modell erzeugt.
Kontextfenster
Die maximale Anzahl Tokens, die ein Modell in einer einzelnen Anfrage verarbeiten kann.