Grundkonzepte
LLM (Großes Sprachmodell)
Neuronales Netz, das auf riesigen Textmengen trainiert wurde, um natürliche Sprache zu erzeugen.
Ein Large Language Model ist ein Transformer-basiertes neuronales Netz mit Milliarden Parametern, trainiert auf Text in Internet-Größenordnung. Es lernt genau eine Sache: das nächste Token vorherzusagen. Aus diesem schlichten Ziel entstehen Schlussfolgern, Programmieren, Übersetzen und kreatives Schreiben. GPT, Claude und Gemini sind LLMs.
Verwandte Begriffe
Transformer
Die neuronale Architektur, auf der praktisch alle modernen LLMs beruhen.
Basismodell (Foundation Model)
Großes vortrainiertes Modell, das als Grundlage für viele Anwendungen dient.
Parameter
Lernbares Gewicht in einem neuronalen Netz; die Modellgröße wird in Milliarden gemessen.
Vortraining (Pre-Training)
Die anfängliche, großskalige Trainingsphase, in der das Modell Sprache lernt.