Llama 3.1 405B

Bei typischem Mix aus 70 % Eingabe und 30 % Ausgabe kommt Llama 3.1 405B auf $2.70 pro Million Token. Damit liegt es über 47 % der 32 hier erfassten Modelle, und 1 weitere Modelle derselben Flaggschiff-Stufe unterbieten es. Die Stufe ist ein Leistungsetikett, kein Preisband — die Spanne innerhalb einer Stufe ist oft größer als der Abstand zwischen Stufen, weshalb eine Auswahl allein nach Stufe meist zu teuer wird.

Die Eingabe kostet $2.70 pro Million, die Ausgabe $2.70 — ein Verhältnis von 1.0x. Dieses Verhältnis zählt mehr als jede der beiden Zahlen für sich: Eine Zusammenfassungs- oder Klassifizierungslast liest weit mehr, als sie schreibt, und folgt dem Eingabepreis; Codegenerierung oder lange Texte drehen das um und folgen dem Ausgabepreis. Vergleichen Sie Modelle nach dem Verhältnis, das Ihr Traffic tatsächlich hat, nicht nach dem Eingabepreis allein.

Das Benchmark-Profil ist ungewöhnlich flach — Programmierung führt mit 88/100, doch nur 2 Punkte trennen die stärkste von der schwächsten Kategorie. Das macht Llama 3.1 405B zur sicheren Standardwahl für gemischte Lasten, bei denen sich nicht vorhersagen lässt, welche Fähigkeit eine Anfrage beansprucht — und zur schlechten Wahl, wenn Sie einen Spezialisten brauchen.

Das Kontextfenster umfasst 128K Token, der Durchsatzwert liegt bei 65/100. Kontext rechnet sich nur, wenn Sie ihn füllen — und genau das Füllen macht eine Anfrage teuer: Ein großes Fenster ist eine Option, kein Rabatt. Beurteilen Sie den Geschwindigkeitswert eines Flaggschiff-Modells nach Ihrem Einsatz: Im interaktiven Chat entscheidet er alles, bei nächtlicher Batch-Arbeit fast nichts.

Vor der Festlegung prüfenswert: DeepSeek V3 schneidet bei Programmierung und Reasoning zusammen mindestens ebenso gut ab und kommt auf $0.32 pro Million gegenüber $2.70 bei Llama 3.1 405B. Das macht Llama 3.1 405B nicht zur falschen Wahl — Kontextfenster, Latenz, Anbieterbindung und bestimmte Fähigkeiten liegen außerhalb eines Benchmark-Werts — aber es heißt, dass der Preisunterschied einen Grund braucht.

Der nächstliegende Vergleich ist Claude 3 Opus von Anthropic mit $33.00 pro Million gegenüber $2.70. 6 Modelle dieser Stufe erzielen bei Programmierung und Reasoning zusammen höhere Werte — und das ist die nützliche Perspektive: Die Frage ist selten, ob ein Modell gut ist, sondern ob es das Günstigste ist, das für die konkrete Arbeit gut genug ist, die Sie ihm schicken.