KI-Glossar
Verständliche Definitionen für jeden LLM-Begriff, dem Sie begegnen.
49 Begriffe
Grundkonzepte
24 termsDie Grundeinheit des Textes, die Sprachmodelle verarbeiten und nach der abgerechnet wird.
Die maximale Anzahl Tokens, die ein Modell in einer einzelnen Anfrage verarbeiten kann.
Neuronales Netz, das auf riesigen Textmengen trainiert wurde, um natürliche Sprache zu erzeugen.
Großes vortrainiertes Modell, das als Grundlage für viele Anwendungen dient.
Das Ausführen eines trainierten Modells, um aus neuen Eingaben Ausgaben zu erzeugen.
Der Text, den ein Sprachmodell als Antwort auf einen Prompt erzeugt.
Die Praxis, Eingaben so zu gestalten, dass ein Modell optimale Ausgaben liefert.
Anweisungsblock vor dem Gespräch, der das Verhalten des Modells konfiguriert.
Dichter Zahlenvektor, der die Bedeutung eines Textes kodiert.
Sampling-Parameter, der steuert, wie zufällig die Ausgabe des Modells ausfällt.
Strategie, die die Auswahl auf die kleinste Tokenmenge mit einer bestimmten Gesamtwahrscheinlichkeit begrenzt.
Die Ausgabe Token für Token ausliefern, während sie entsteht, statt auf die vollständige Antwort zu warten.
Die Zeit zwischen dem Absenden einer Anfrage und dem Eintreffen des ersten Antwort-Tokens.
Anzahl der Tokens oder Anfragen, die ein Modell pro Sekunde verarbeiten kann.
Antworten anreichern, indem passende Dokumente aus einer externen Quelle geholt werden.
Datenbank, die auf das Speichern und Durchsuchen hochdimensionaler Embedding-Vektoren ausgelegt ist.
Suche, die Ergebnisse nach Bedeutung statt nach exakter Wortübereinstimmung liefert.
Das Modell eine Aufgabe erledigen lassen, ohne ihm Beispiele zu geben.
Einige Ein-/Ausgabe-Beispiele in den Prompt aufnehmen, um das Modell zu lenken.
Technik, bei der das Modell vor der Antwort Schritt für Schritt schlussfolgern soll.
LLM-basiertes System, das eigenständig auf ein Ziel hinarbeitet.
Die Fähigkeit des Modells, externe Funktionen oder APIs aufzurufen.
Datum, ab dem das Modell keine Trainingsdaten mehr besitzt.
Algorithmus, der Rohtext in eine Folge von Tokens umwandelt.
Preise und Kosten
4 termsKosten pro Million Tokens für das, was Sie im Prompt senden.
Kosten pro Million Tokens, die das Modell erzeugt.
Anbieterfunktion, die einen wiederverwendbaren Präfix speichert, um ihn nicht erneut voll zu berechnen.
Anfragen gebündelt und asynchron senden und dafür 50 % Rabatt erhalten.
Architektur
8 termsArchitektur, bei der pro Token nur ein Teil der Parameter aktiviert wird.
Die neuronale Architektur, auf der praktisch alle modernen LLMs beruhen.
Die zentrale Operation in Transformern, mit der jedes Token alle anderen gewichtet.
Modellgewichte auf geringere numerische Genauigkeit komprimieren, um Speicher und Kosten zu senken.
Modell, das mehrere Datentypen wie Text und Bilder verarbeiten und erzeugen kann.
Lernbares Gewicht in einem neuronalen Netz; die Modellgröße wird in Milliarden gemessen.
Die übliche Einheit zur Angabe der Modellgröße.
Modellvariante, die vor der Antwort ausdrücklich Schritt für Schritt denkt.
Training
4 termsEin vortrainiertes Modell mit fachspezifischen Daten weitertrainieren.
Die anfängliche, großskalige Trainingsphase, in der das Modell Sprache lernt.
Das Modell auf Paaren aus Anweisung und idealer Antwort trainieren, damit es Vorgaben befolgt.
Trainingsverfahren, das Modellausgaben an menschlichen Präferenzen ausrichtet.
Sicherheit und Ethik
6 termsWenn ein Modell plausibel klingende, aber sachlich falsche Informationen erzeugt.
Modellantworten an geprüfte, reale Quellen binden.
Fachgebiet, das KI-Systeme in Einklang mit menschlichen Werten bringen soll.
Trainingsverfahren, bei dem das Modell eigene Ausgaben anhand schriftlicher Prinzipien kritisiert und korrigiert.
Angriff, bei dem bösartiger Text aus der Umgebung die Anweisungen des Modells überschreibt.
Disziplin, die KI-Systeme verlässlich nützlich und unschädlich machen soll.