Güvenlik ve Etik
Halüsinasyon
Modelin kulağa doğru gelen ama gerçekte yanlış bilgi üretmesi.
Halüsinasyon, modelin emin bir tonla uydurma bilgi vermesidir: olmayan bir kaynak, yanlış bir tarih, var olmayan bir fonksiyon adı. Modeller doğruyu değil, olası olanı üretmek üzere eğitildiği için bu davranış bir hata değil, tasarımın doğal sonucudur. Temellendirme ve RAG, modeli gerçek kaynaklara bağlayarak riski azaltır — ama sıfırlamaz.
İlgili Terimler
RAG (Erişimle Zenginleştirilmiş Üretim)
Yanıt üretmeden önce dış bir kaynaktan ilgili belgeleri getirip modele verme yöntemi.
Temellendirme (Grounding)
Model cevaplarını doğrulanmış, gerçek kaynaklara bağlamak.
Araç Kullanımı (Function Calling)
Modelin dış fonksiyon ya da API çağırabilme yeteneği.
Bilgi Kesim Tarihi
Modelin eğitim verisinin bittiği ve sonrasından haberi olmadığı tarih.