Training
Feinabstimmung (Fine-Tuning)
Ein vortrainiertes Modell mit fachspezifischen Daten weitertrainieren.
Die Feinabstimmung passt ein fertiges Modell an eine Domäne, einen Stil oder ein Ausgabeformat an, indem es mit Ihren eigenen Daten etwas weiter trainiert wird. Sinnvoll, wenn eine dauerhafte Verhaltensänderung nötig ist. In den meisten Fällen braucht es jedoch keine Feinabstimmung, sondern einen guten Prompt oder RAG: Feinabstimmung ist teuer und muss bei jeder neuen Modellversion wiederholt werden.
Verwandte Begriffe
Vortraining (Pre-Training)
Die anfängliche, großskalige Trainingsphase, in der das Modell Sprache lernt.
Instruction Tuning
Das Modell auf Paaren aus Anweisung und idealer Antwort trainieren, damit es Vorgaben befolgt.
RLHF (Bestärkendes Lernen aus menschlichem Feedback)
Trainingsverfahren, das Modellausgaben an menschlichen Präferenzen ausrichtet.
Basismodell (Foundation Model)
Großes vortrainiertes Modell, das als Grundlage für viele Anwendungen dient.