Mimari

Milyar Parametre

Model ölçeğini ifade eden standart birim.

Model isimlerindeki 7B, 70B, 405B gibi ifadeler milyar parametre sayısını gösterir. Kaba bir gösterge olarak yetenekle ilişkilidir, ancak tek başına yanıltıcıdır: iyi eğitilmiş küçük bir model, kötü eğitilmiş büyük bir modeli rahatlıkla geçebilir. Ayrıca parametre sayısı doğrudan donanım ihtiyacını belirler.

İlgili Terimler

Parametre

Sinir ağındaki öğrenilebilir ağırlık; model boyutu milyarlarca parametreyle ölçülür.

LLM (Büyük Dil Modeli)

Devasa metin yığınlarıyla eğitilmiş, insan gibi metin üreten sinir ağı.

Niceleme (Quantization)

Model ağırlıklarını daha düşük hassasiyete sıkıştırarak bellek ve maliyeti azaltma.

Uzman Karışımı (MoE)

Her token için model parametrelerinin yalnızca bir bölümünün çalıştırıldığı mimari.