O que é Hallucination?
A inteligência artificial apresenta informações que na verdade não existem como se fossem verdadeiras.
Definição
É uma situação em que os modelos de inteligência artificial por vezes se tornam demasiado confiantes e produzem informações completamente fabricadas ou falsas. Isso ocorre quando o modelo foge da realidade ao tentar prever a próxima palavra com base em probabilidades, em vez de analisar os dados corretamente.
Como funciona
O modelo preenche as lacunas com sua própria lógica quando as conexões que faz entre os dados de treinamento são fracas ou não possuem informações suficientes. Embora o texto resultante possa ser gramaticalmente perfeito, seu conteúdo pode ser completamente infundado.
Onde é usado
Ocorre especialmente em pesquisas acadêmicas, na busca por orientação médica ou na busca de informações sobre acontecimentos atuais. Este risco existe em qualquer resultado produtivo de IA que não seja baseado em fontes confiáveis.
Costuma ser confundido com
É confundido com mentira, mas a inteligência artificial não tem intenção nem consciência; Apenas segue as possibilidades.
Perguntas frequentes
Como evito que a IA invente coisas?
Instruindo-o a “se não sabe, diga que não sabe” ou fazendo-o consultar fontes externas através de métodos como o RAG.
Toda inteligência artificial tem alucinações?
Sim, todos os principais modelos de linguagem probabilística apresentam este risco até certo ponto.
Termos relacionados
Esta explicação foi escrita em linguagem simples para a TreScout e traduzida automaticamente do original em turco · a versão turca é a que vale. Se algo parecer errado ou faltando, escreva para hello@trescout.com. Ler em turco →