¿Qué es Hallucination?
La inteligencia artificial presenta información que en realidad no existe como si fuera cierta.
Definición
Es una situación en la que los modelos de inteligencia artificial a veces se vuelven demasiado confiados y producen información completamente fabricada o falsa. Esto ocurre cuando el modelo se aleja de la realidad al intentar predecir la siguiente palabra basándose en probabilidades en lugar de analizar los datos correctamente.
Cómo funciona
El modelo llena los vacíos con su propia lógica cuando las conexiones que realiza entre los datos de entrenamiento son débiles o no tienen suficiente información. Si bien el texto resultante puede ser gramaticalmente perfecto, su contenido puede ser completamente infundado.
Dónde se usa
Ocurre especialmente en la investigación académica, cuando se busca consejo médico o cuando se busca información sobre acontecimientos actuales. Este riesgo existe en cualquier producción productiva de IA que no se base en fuentes confiables.
Suele confundirse con
Se confunde con mentir, pero la inteligencia artificial no tiene intención ni conciencia; Simplemente sigue las posibilidades.
Preguntas frecuentes
¿Cómo evito que la IA invente cosas?
Indicándole que "si no lo sabes, di que no lo sabes" o haciéndole consultar fuentes externas a través de métodos como RAG.
¿Toda inteligencia artificial alucina?
Sí, todos los principales modelos de lenguaje probabilístico conllevan este riesgo hasta cierto punto.
Términos relacionados
Esta explicación se redactó en lenguaje sencillo para TreScout y se tradujo automáticamente del original en turco · prevalece la versión turca. Si algo le parece erróneo o incompleto, escriba a hello@trescout.com. Leer en turco →