Precios y Costos
Procesamiento por Lotes
Enviar peticiones de forma asíncrona y masiva a cambio de un 50% de descuento.
El procesamiento por lotes te permite encolar trabajo que no necesita respuesta inmediata; el proveedor lo procesa cuando tiene capacidad y aplica normalmente un 50% de descuento. Es ideal para enriquecimiento nocturno, reprocesado de históricos y tandas de evaluación. Para muchos equipos ahorra más que cambiar de modelo.
Términos Relacionados
Precio de Entrada
Coste por millón de tokens de los que envías en el prompt.
Precio de Salida
Coste por millón de tokens de los que genera el modelo.
Rendimiento (Throughput)
Número de tokens o peticiones que un modelo puede procesar por segundo.
Latencia
El tiempo entre enviar una petición y recibir el primer token de la respuesta.