Ana Kavramlar
Tamamlama (Completion)
Modelin bir prompta karşılık ürettiği metin çıktısı.
Tamamlama, modelin girdinize verdiği yanıttır. API terimleriyle çıktı token'larıdır ve genellikle girdi token'larından 2-5 kat pahalıdır, çünkü üretim, okumaya kıyasla çok daha fazla hesaplama gerektirir. Yanıtın uzunluğu doğrudan çıktı maliyetinizi belirler — bu yüzden 'kısa cevap ver' talimatı gerçek para tasarrufudur.
İlgili Terimler
Token
Dil modellerinin metni işlerken kullandığı en küçük birim — ve faturanızın kesildiği birim.
Çıktı Fiyatı
Modelin ürettiği token'lar için milyon token başına alınan ücret.
Akış (Streaming)
Model çıktısının tamamı beklenmeden, üretildikçe token token gönderilmesi.
Sistem Promptu
Konuşmadan önce gönderilen, modelin davranışını ve rolünü belirleyen talimat bloğu.