Güvenlik ve Etik
Anayasal Yapay Zekâ (Constitutional AI)
Modelin yazılı ilkelere göre kendi çıktısını eleştirip düzeltmesine dayanan eğitim yöntemi.
Anthropic'in geliştirdiği bu yöntemde modele bir dizi yazılı ilke ('anayasa') verilir ve model kendi cevaplarını bu ilkelere göre eleştirip yeniden yazmayı öğrenir. İnsan etiketlemesine olan ihtiyacı azaltır ve modelin hangi ilkelere göre davrandığını denetlenebilir kılar.
İlgili Terimler
RLHF (İnsan Geri Bildirimiyle Pekiştirmeli Öğrenme)
Model çıktılarını insan tercihlerine göre hizalayan eğitim yöntemi.
Hizalama (Alignment)
Yapay zekâ sistemlerinin insan değer ve niyetlerine uygun davranmasını sağlama alanı.
Talimat Ayarı (Instruction Tuning)
Modeli, talimat–ideal cevap çiftleriyle eğiterek yönergeleri takip eder hale getirme.
Yapay Zekâ Güvenliği (AI Safety)
Yapay zekâ sistemlerinin güvenilir biçimde faydalı ve zararsız olmasını sağlama disiplini.