Grundkonzepte
Temperatur
Sampling-Parameter, der steuert, wie zufällig die Ausgabe des Modells ausfällt.
Die Temperatur regelt, wie viel Risiko das Modell bei der Wahl des nächsten Tokens eingeht. Niedrige Werte (0–0,3) liefern konsistente, vorhersagbare Ergebnisse und eignen sich für Extraktion und Klassifizierung. Hohe Werte (0,7–1,0) erhöhen die Vielfalt, was beim kreativen Schreiben hilft. Hinweis: Ein Teil der neuesten Modelle akzeptiert diesen Parameter nicht mehr und wird allein über den Prompt gesteuert.
Verwandte Begriffe
Top-P (Nucleus Sampling)
Strategie, die die Auswahl auf die kleinste Tokenmenge mit einer bestimmten Gesamtwahrscheinlichkeit begrenzt.
Completion (Vervollständigung)
Der Text, den ein Sprachmodell als Antwort auf einen Prompt erzeugt.
Inferenz
Das Ausführen eines trainierten Modells, um aus neuen Eingaben Ausgaben zu erzeugen.