Eğitim
RLHF (İnsan Geri Bildirimiyle Pekiştirmeli Öğrenme)
Model çıktılarını insan tercihlerine göre hizalayan eğitim yöntemi.
RLHF'te insanlar modelin ürettiği farklı cevapları karşılaştırıp hangisini tercih ettiklerini işaretler; bu tercihlerden bir ödül modeli öğrenilir ve ana model bu ödülü artıracak şekilde eğitilir. Modellerin yardımcı, zararsız ve dürüst davranmasını sağlayan başlıca tekniktir.
İlgili Terimler
Hizalama (Alignment)
Yapay zekâ sistemlerinin insan değer ve niyetlerine uygun davranmasını sağlama alanı.
Anayasal Yapay Zekâ (Constitutional AI)
Modelin yazılı ilkelere göre kendi çıktısını eleştirip düzeltmesine dayanan eğitim yöntemi.
Talimat Ayarı (Instruction Tuning)
Modeli, talimat–ideal cevap çiftleriyle eğiterek yönergeleri takip eder hale getirme.
Yapay Zekâ Güvenliği (AI Safety)
Yapay zekâ sistemlerinin güvenilir biçimde faydalı ve zararsız olmasını sağlama disiplini.