Ana Kavramlar
Sistem Promptu
Konuşmadan önce gönderilen, modelin davranışını ve rolünü belirleyen talimat bloğu.
Sistem promptu, kullanıcı mesajlarından önce gelen ve modelin kimliğini, tonunu, kurallarını ve sınırlarını tanımlayan metindir. Her istekte yeniden gönderildiği için token maliyetini doğrudan etkiler — uzun bir sistem promptu her çağrıda tekrar tekrar ödenir. Bağlam önbellekleme tam olarak bu tekrarı ucuzlatmak için vardır.
İlgili Terimler
Prompt Mühendisliği
Dil modellerinden en iyi çıktıyı almak için girdiyi tasarlama pratiği.
Tamamlama (Completion)
Modelin bir prompta karşılık ürettiği metin çıktısı.
Token
Dil modellerinin metni işlerken kullandığı en küçük birim — ve faturanızın kesildiği birim.
Bağlam Önbellekleme (Context Caching)
Tekrar eden prompt başlangıcını saklayıp her istekte yeniden ücretlendirmemeyi sağlayan özellik.