Alucinação de IA
No contexto da IA, uma Alucinação é uma resposta confiante gerada por um Modelo de Linguagem Grande que não se alinha com os seus dados de treino ou factos do mundo real. Ocorre quando o modelo "inventa" informação para preencher lacunas de conhecimento, muitas vezes porque faltavam dados de origem autorizados e estruturados ou estes eram pouco claros.
Porquê as Alucinações São um Risco para a Marca
As alucinações de IA representam riscos sérios para as empresas. Um LLM pode inventar um código de desconto falso para a sua loja, citar incorretamente a sua política de devolução, atribuir uma funcionalidade de um concorrente ao seu produto ou citar um preço desatualizado. Estas fabricações prejudicam a confiança do cliente e podem criar responsabilidade legal. A causa raiz é geralmente a falta de dados ou dados mal estruturados — quando uma IA não consegue encontrar informações claras e autoritativas, preenche as lacunas com suposições probabilísticas. A defesa principal é a estruturação de dados através de JSON-LD e Knowledge Graphs. Ao declarar explicitamente factos em formatos legíveis por máquina, fornece aos modelos de IA informações claras e verificáveis para citar, em vez de os forçar a alucinar respostas.
Resposta Factual de IA vs. Alucinação
Impacto no Mundo Real
Utilizador pergunta ao chatbot sobre produto descontinuado
IA alucina: "Produto X disponível, 49,99 €"
Cliente encomenda, descobre a verdade, exige reembolso
O esquema do produto inclui "disponibilidade": "Descontinuado"
IA afirma corretamente: "Produto X descontinuado"
Cliente obtém informação precisa, explora alternativas