Seguridad y Ética
Alucinación
Cuando un modelo genera información que suena plausible pero es falsa.
Una alucinación es una invención expresada con seguridad: una fuente que no existe, una fecha equivocada, una función inventada. Como los modelos se entrenan para producir lo probable y no lo verdadero, no es un fallo puntual sino una consecuencia del diseño. El anclaje y RAG reducen el riesgo conectando al modelo con fuentes reales, pero no lo eliminan.
Términos Relacionados
RAG (Generación Aumentada por Recuperación)
Enriquecer las respuestas recuperando documentos relevantes de una fuente externa.
Anclaje (Grounding)
Conectar las respuestas del modelo con fuentes reales y verificadas.
Uso de Herramientas (Function Calling)
La capacidad del modelo de invocar funciones o API externas.
Fecha de Corte de Conocimiento
Fecha a partir de la cual el modelo no tiene datos de entrenamiento.