Entraînement
RLHF (Apprentissage par Renforcement à partir de Retours Humains)
Méthode d'entraînement alignant les sorties du modèle sur les préférences humaines.
Dans le RLHF, des personnes comparent différentes réponses du modèle et indiquent celle qu'elles préfèrent ; ces préférences servent à apprendre un modèle de récompense, que le modèle principal est ensuite entraîné à maximiser. C'est la technique principale qui rend les modèles utiles, inoffensifs et honnêtes.
Termes Associés
Alignement
Domaine visant à ce que les systèmes d'IA se comportent conformément aux valeurs humaines.
IA Constitutionnelle
Méthode d'entraînement où le modèle critique et corrige ses propres sorties selon des principes écrits.
Réglage par Instructions
Entraîner le modèle sur des paires instruction / réponse idéale pour qu'il suive les consignes.
Sécurité de l'IA
Discipline visant à ce que les systèmes d'IA soient fiablement bénéfiques.