Conceptos Fundamentales
Prompt de Sistema
Bloque de instrucciones enviado antes de la conversación que configura el comportamiento del modelo.
El prompt de sistema precede a los mensajes del usuario y define la identidad, el tono, las reglas y los límites del modelo. Se reenvía en cada petición, así que influye directamente en el coste: un prompt de sistema largo se paga una y otra vez. El almacenamiento en caché de contexto existe precisamente para abaratar esa repetición.
Términos Relacionados
Ingeniería de Prompts
La práctica de diseñar entradas para obtener las mejores salidas de un modelo.
Completado
El texto que genera un modelo de lenguaje en respuesta a un prompt.
Token
La unidad básica de texto que los modelos de lenguaje procesan y facturan.
Caché de Contexto
Función del proveedor que guarda un prefijo reutilizable para no volver a cobrarlo entero.