Conceptos Fundamentales
Temperatura
Parámetro de muestreo que controla cuánta aleatoriedad tiene la salida del modelo.
La temperatura regula cuánto riesgo asume el modelo al elegir el siguiente token. Valores bajos (0-0,3) dan resultados consistentes y predecibles, ideales para extracción y clasificación. Valores altos (0,7-1,0) aumentan la variedad, útil en escritura creativa. Nota: parte de los modelos más recientes ya no aceptan este parámetro y se guían solo con el prompt.
Términos Relacionados
Top-P (Muestreo de Núcleo)
Estrategia que limita la elección al conjunto más pequeño de tokens que suma una probabilidad dada.
Completado
El texto que genera un modelo de lenguaje en respuesta a un prompt.
Inferencia
El proceso de ejecutar un modelo entrenado para generar salidas a partir de nuevas entradas.