Llama 3 70B

En una mezcla típica de 70% entrada / 30% salida, Llama 3 70B sale a $1.28 por millón de tokens. Eso lo sitúa por encima del 28% de los 32 modelos que seguimos aquí, y 8 modelos más de la misma capa económica quedan por debajo. La capa es una etiqueta de capacidad, no una banda de precio: la horquilla dentro de una capa suele ser más ancha que la distancia entre capas, y por eso elegir solo por capa tiende a hacer gastar de más.

La entrada cuesta $0.65 por millón y la salida $2.75, una proporción de 4.2x. Esa proporción importa más que cualquiera de las dos cifras por separado: una carga de resumen o clasificación lee mucho más de lo que escribe y seguirá el precio de entrada, mientras que la generación de código o la escritura larga lo invierten y seguirán el de salida. Compara modelos según la proporción real de tu tráfico, no según el precio de entrada.

El perfil de benchmarks es irregular, no plano: extracción de datos con 80/100 frente a visión con 52/100, una horquilla de 28 puntos. La media lo oculta. Si tu carga cae en el extremo fuerte, este modelo rinde por encima de su precio; si cae en el débil, un modelo más barato con un perfil más plano te servirá mejor.

La ventana de contexto es de 8K tokens y la puntuación de rendimiento, 92/100. El contexto solo se gana su sitio si lo llenas, y llenarlo es justo lo que encarece una petición: una ventana grande es una opción, no un descuento. Para un modelo de capa económica, juzga la velocidad según lo que hagas: lo decide todo en chat interactivo y casi nada en procesos nocturnos por lotes.

Conviene comprobarlo antes de decidir: Gemini 2.0 Flash puntúa al menos igual en programación y razonamiento combinados y sale a $0.19 por millón frente a los $1.28 de Llama 3 70B. Eso no convierte a Llama 3 70B en mala elección —ventana de contexto, latencia, dependencia del proveedor y capacidades concretas quedan fuera de una puntuación de benchmark—, pero sí significa que la diferencia de precio necesita un motivo detrás.

La comparación más cercana es GPT-4o Mini, de OpenAI, a $0.29 por millón frente a $1.28. 6 modelos de esta capa puntúan más alto en programación y razonamiento combinados, que es el encuadre útil: la pregunta rara vez es si un modelo es bueno, sino si es lo más barato que resulta suficientemente bueno para el trabajo concreto que le envías.