Mimari
Akıl Yürütme Modeli (Reasoning Model)
Cevap vermeden önce açıkça adım adım düşünen model türü.
Akıl yürütme modelleri, yanıt üretmeden önce görünmez ya da özetlenmiş bir 'düşünme' aşamasından geçer. Matematik, kod ve çok adımlı problemlerde belirgin biçimde daha başarılıdır. Bedeli hız ve maliyettir: düşünme adımları da çıktı token'ı olarak faturalanır, dolayısıyla basit işlerde bu modelleri kullanmak israftır.
İlgili Terimler
Düşünce Zinciri (Chain of Thought)
Modele cevaptan önce adım adım akıl yürütmesini söyleyen teknik.
Çıkarım (Inference)
Eğitilmiş bir modeli çalıştırıp yeni girdilerden çıktı üretme süreci.
Gecikme (Latency)
İstek gönderildikten sonra ilk token'ın gelmesine kadar geçen süre.
MMLU
57 farklı alanda bilgi ve akıl yürütmeyi ölçen kıyaslama testi.