Fiyatlandırma ve Maliyetler
Toplu İşleme (Batch API)
İstekleri toplu ve eşzamansız gönderip %50 indirim almak.
Toplu işleme, cevabın hemen gerekmediği işleri kuyruğa vermenizi sağlar; sağlayıcı bunları müsait kapasitede işler ve karşılığında genellikle %50 indirim uygular. Gecelik veri zenginleştirme, geçmiş kayıtların işlenmesi ve değerlendirme koşuları için idealdir. Çoğu ekip için model değiştirmekten daha büyük tasarruf sağlar.
İlgili Terimler
Girdi Fiyatı
Promptunuzdaki token'lar için milyon token başına alınan ücret.
Çıktı Fiyatı
Modelin ürettiği token'lar için milyon token başına alınan ücret.
İşlem Hacmi (Throughput)
Bir modelin saniyede işleyebildiği token ya da istek sayısı.
Gecikme (Latency)
İstek gönderildikten sonra ilk token'ın gelmesine kadar geçen süre.