Llama 3 70B

Bei typischem Mix aus 70 % Eingabe und 30 % Ausgabe kommt Llama 3 70B auf $1.28 pro Million Token. Damit liegt es über 28 % der 32 hier erfassten Modelle, und 8 weitere Modelle derselben Budget-Stufe unterbieten es. Die Stufe ist ein Leistungsetikett, kein Preisband — die Spanne innerhalb einer Stufe ist oft größer als der Abstand zwischen Stufen, weshalb eine Auswahl allein nach Stufe meist zu teuer wird.

Die Eingabe kostet $0.65 pro Million, die Ausgabe $2.75 — ein Verhältnis von 4.2x. Dieses Verhältnis zählt mehr als jede der beiden Zahlen für sich: Eine Zusammenfassungs- oder Klassifizierungslast liest weit mehr, als sie schreibt, und folgt dem Eingabepreis; Codegenerierung oder lange Texte drehen das um und folgen dem Ausgabepreis. Vergleichen Sie Modelle nach dem Verhältnis, das Ihr Traffic tatsächlich hat, nicht nach dem Eingabepreis allein.

Das Benchmark-Profil ist uneben statt flach: Datenextraktion mit 80/100 gegenüber Bildverstehen mit 52/100 — 28 Punkte Spanne. Ein Durchschnitt verdeckt das. Liegt Ihre Last am starken Ende, leistet dieses Modell mehr, als sein Preis vermuten lässt; liegt sie am schwachen Ende, dient Ihnen ein günstigeres Modell mit flacherem Profil besser.

Das Kontextfenster umfasst 8K Token, der Durchsatzwert liegt bei 92/100. Kontext rechnet sich nur, wenn Sie ihn füllen — und genau das Füllen macht eine Anfrage teuer: Ein großes Fenster ist eine Option, kein Rabatt. Beurteilen Sie den Geschwindigkeitswert eines Budget-Modells nach Ihrem Einsatz: Im interaktiven Chat entscheidet er alles, bei nächtlicher Batch-Arbeit fast nichts.

Vor der Festlegung prüfenswert: Gemini 2.0 Flash schneidet bei Programmierung und Reasoning zusammen mindestens ebenso gut ab und kommt auf $0.19 pro Million gegenüber $1.28 bei Llama 3 70B. Das macht Llama 3 70B nicht zur falschen Wahl — Kontextfenster, Latenz, Anbieterbindung und bestimmte Fähigkeiten liegen außerhalb eines Benchmark-Werts — aber es heißt, dass der Preisunterschied einen Grund braucht.

Der nächstliegende Vergleich ist GPT-4o Mini von OpenAI mit $0.29 pro Million gegenüber $1.28. 6 Modelle dieser Stufe erzielen bei Programmierung und Reasoning zusammen höhere Werte — und das ist die nützliche Perspektive: Die Frage ist selten, ob ein Modell gut ist, sondern ob es das Günstigste ist, das für die konkrete Arbeit gut genug ist, die Sie ihm schicken.