Alucinação
Quando o modelo produz informação incorreta com aparência de verdade. Não é defeito ocasional, é consequência direta de como ele funciona.
O que é
Alucinação é quando o modelo gera informação incorreta com aparência de verdade: uma fonte que não existe, um número inventado, uma citação que ninguém disse.
Não é bug. É consequência do funcionamento: o modelo prevê o token mais provável com base em padrões. Quando não existe padrão confiável para aquilo, ele produz o que parece mais plausível, e plausível não é sinônimo de verdadeiro.
O gatilho mais comum e mais evitável
O que mais provoca alucinação no uso real não é pergunta difícil. É janela de contexto suja.
A partir de aproximadamente 30% de uso da janela, o modelo começa a esquecer os primeiros tokens que ingeriu. Entre 30% e 40% a queda de precisão já é perceptível, mesmo em modelos com 1 milhão de tokens de janela.
E o efeito é cumulativo, porque tudo que o modelo responde volta como entrada na mensagem seguinte.
Como reduzir na prática
- Limpe a sessão e não misture tarefas diferentes na mesma conversa.
- Mantenha memória e estado em arquivos, não no histórico do chat.
- Use um revisor separado. Pedir para o mesmo modelo, no mesmo chat, revisar o que ele acabou de escrever é receita de autoengano. Veja Gauntlet Loop.
- Exija fonte. Um bom agente de pesquisa separa fatos confirmados (com fonte e tipo de fonte) de alegações não confirmadas, e explica por que estas não passaram.
O que a alucinação não é
Não é a máquina “mentindo” nem “querendo” enganar. O modelo não pensa, não raciocina e não tem vontade. Ele aprende só com o passado e responde por padrão estatístico.