Llama 3 70B

Bei typischem Mix aus 70 % Eingabe und 30 % Ausgabe kommt Llama 3 70B auf 1,28 $ pro Million Token. Damit liegt es über 28 % der 47 hier erfassten Modelle, und 12 weitere Modelle derselben Budget-Stufe unterbieten es. Die Stufe ist ein Leistungsetikett, kein Preisband — die Spanne innerhalb einer Stufe ist oft größer als der Abstand zwischen Stufen, weshalb eine Auswahl allein nach Stufe meist zu teuer wird.

Die Eingabe kostet 0,65 $ pro Million, die Ausgabe 2,75 $ — ein Verhältnis von 4,2x. Dieses Verhältnis zählt mehr als jede der beiden Zahlen für sich: Eine Zusammenfassungs- oder Klassifizierungslast liest weit mehr, als sie schreibt, und folgt dem Eingabepreis; Codegenerierung oder lange Texte drehen das um und folgen dem Ausgabepreis. Vergleichen Sie Modelle nach dem Verhältnis, das Ihr Traffic tatsächlich hat, nicht nach dem Eingabepreis allein.

Das Benchmark-Profil ist ungewöhnlich flach — Datenextraktion führt mit 80/100, doch nur 4 Punkte trennen die stärkste von der schwächsten Kategorie. Das macht Llama 3 70B zur sicheren Standardwahl für gemischte Lasten, bei denen sich nicht vorhersagen lässt, welche Fähigkeit eine Anfrage beansprucht — und zur schlechten Wahl, wenn Sie einen Spezialisten brauchen.

Das Kontextfenster umfasst 8K Token, der Durchsatzwert liegt bei 92/100. Kontext rechnet sich nur, wenn Sie ihn füllen — und genau das Füllen macht eine Anfrage teuer: Ein großes Fenster ist eine Option, kein Rabatt. Beurteilen Sie den Geschwindigkeitswert eines Budget-Modells nach Ihrem Einsatz: Im interaktiven Chat entscheidet er alles, bei nächtlicher Batch-Arbeit fast nichts.

Vor der Festlegung prüfenswert: Gemini 2.0 Flash schneidet bei Programmierung und Reasoning zusammen mindestens ebenso gut ab und kommt auf 0,19 $ pro Million gegenüber 1,28 $ bei Llama 3 70B. Das macht Llama 3 70B nicht zur falschen Wahl — Kontextfenster, Latenz, Anbieterbindung und bestimmte Fähigkeiten liegen außerhalb eines Benchmark-Werts — aber es heißt, dass der Preisunterschied einen Grund braucht.

Der nächstliegende Vergleich ist GPT-4o Mini von OpenAI mit 0,29 $ pro Million gegenüber 1,28 $. 11 Modelle dieser Stufe erzielen bei Programmierung und Reasoning zusammen höhere Werte — und das ist die nützliche Perspektive: Die Frage ist selten, ob ein Modell gut ist, sondern ob es das Günstigste ist, das für die konkrete Arbeit gut genug ist, die Sie ihm schicken.