Glosario de IA

La unidad básica de texto que los modelos de lenguaje procesan y facturan.

El número máximo de tokens que un modelo puede procesar en una sola petición.

Red neuronal entrenada con enormes corpus de texto para generar lenguaje natural.

Modelo preentrenado a gran escala que sirve de base para muchas aplicaciones.

El proceso de ejecutar un modelo entrenado para generar salidas a partir de nuevas entradas.

El texto que genera un modelo de lenguaje en respuesta a un prompt.

La práctica de diseñar entradas para obtener las mejores salidas de un modelo.

Bloque de instrucciones enviado antes de la conversación que configura el comportamiento del modelo.

Vector numérico denso que codifica el significado semántico de un texto.

Parámetro de muestreo que controla cuánta aleatoriedad tiene la salida del modelo.

Estrategia que limita la elección al conjunto más pequeño de tokens que suma una probabilidad dada.

Entregar la salida token a token según se genera, en vez de esperar a la respuesta completa.

El tiempo entre enviar una petición y recibir el primer token de la respuesta.

Número de tokens o peticiones que un modelo puede procesar por segundo.

Enriquecer las respuestas recuperando documentos relevantes de una fuente externa.

Base de datos optimizada para almacenar y buscar vectores de embedding de alta dimensión.

Búsqueda que devuelve resultados por significado y no por coincidencia exacta de palabras.

Pedir al modelo que realice una tarea sin darle ningún ejemplo.

Incluir unos pocos ejemplos de entrada y salida en el prompt para guiar al modelo.

Técnica que pide al modelo razonar paso a paso antes de responder.

Sistema basado en un LLM que actúa de forma autónoma para lograr un objetivo.

La capacidad del modelo de invocar funciones o API externas.

Fecha a partir de la cual el modelo no tiene datos de entrenamiento.

Algoritmo que convierte texto en bruto en una secuencia de tokens.

Coste por millón de tokens de los que envías en el prompt.

Coste por millón de tokens de los que genera el modelo.

Función del proveedor que guarda un prefijo reutilizable para no volver a cobrarlo entero.

Enviar peticiones de forma asíncrona y masiva a cambio de un 50% de descuento.

Arquitectura en la que solo se activa una parte de los parámetros por token.

La arquitectura de red neuronal en la que se basan prácticamente todos los LLM modernos.

La operación central de los transformers que permite a cada token ponderar a todos los demás.

Comprimir los pesos del modelo a menor precisión numérica para reducir memoria y coste.

Modelo capaz de procesar y generar varios tipos de datos, como texto e imágenes.

Peso aprendible de una red neuronal; el tamaño del modelo se mide en miles de millones.

Unidad estándar para expresar la escala de un modelo.

Variante de modelo que piensa paso a paso de forma explícita antes de responder.

Seguir entrenando un modelo preentrenado con datos de un dominio concreto.

La fase inicial de entrenamiento a gran escala en la que el modelo aprende el lenguaje.

Entrenar el modelo con pares de instrucción y respuesta ideal para que sepa obedecer.

Método de entrenamiento que alinea las salidas del modelo con las preferencias humanas.

Cuando un modelo genera información que suena plausible pero es falsa.

Conectar las respuestas del modelo con fuentes reales y verificadas.

Campo dedicado a que los sistemas de IA se comporten conforme a los valores humanos.

Método de entrenamiento en el que el modelo critica y corrige sus propias salidas según unos principios escritos.

Ataque en el que texto malicioso del entorno anula las instrucciones del modelo.

Disciplina dedicada a que los sistemas de IA sean fiablemente beneficiosos.

Benchmark que mide conocimiento y razonamiento en 57 materias.

Benchmark de programación que mide la capacidad de escribir funciones correctas en Python.

Métrica de lo bien que un modelo predice un texto; cuanto más baja, mejor.