Porque é que os agentes de IA têm alucinações e como as evitar?
Um agente de IA tem uma alucinação quando diz algo que soa certo, mas é inventado. A causa principal é simples. A IA foi feita para dar sempre uma resposta fluida. Quando faltam factos, preenche o vazio com algo que parece provável.
Uma comparação do dia a dia
Imagine um colaborador novo que nunca diz «não sei». Um cliente pergunta quando chega a encomenda. O colaborador não tem acesso à lista de encomendas e diz uma data que parece razoável. Não tem má intenção. Só lhe falta a informação e não o diz. A IA comporta-se da mesma maneira.
Quando acontece
- A informação não existe. Pergunte por um cliente que o agente não consegue consultar, e ele pode descrever um cliente típico.
- A informação não coincide. Há duas versões de uma tabela de preços. O agente escolhe uma ou mistura as duas.
- A pergunta é demasiado ampla. «Fala-me das nossas vendas» convida a afirmações genéricas.
- Há demasiado para ler. Se receber cinquenta documentos de uma vez, o agente pode perder a única frase que interessava.
Porque importa mais nos agentes do que num chat
Um agente de IA não se limita a responder. Também age. Quando a resposta de um chat está errada, lê-a e pode ignorá-la. Quando um agente erra, o erro pode seguir viagem. Uma data de entrega inventada vai parar a um e-mail. Um valor adivinhado fica guardado nos seus registos. Por isso, as proteções abaixo devem fazer parte da configuração desde o início.
Cinco formas de evitar
- Deixe-o consultar. Um agente que pode abrir a ficha real do cliente, a encomenda e o contrato não tem motivo para adivinhar.
- Peça a fonte. Cada afirmação deve mostrar de onde vem. Uma resposta sem fonte é um sinal de alerta.
- Permita o «não encontrado». Diga ao agente nas instruções que «isto não consta da nossa informação» é uma resposta correta.
- Mantenha a tarefa pequena. «Encontra o número da fatura, a data e o total» é mais seguro do que «trata desta fatura».
- Confirme antes de guardar ou enviar. Uma pessoa vê primeiro a alteração sugerida.
A causa silenciosa: informação desarrumada
Muitas respostas inventadas não são culpa da IA. Um cliente inserido duas vezes, uma encomenda sem data ou uma tarefa que não pertence a ninguém deixam lacunas. O agente tem então de trabalhar com essas lacunas. Arrumar a sua informação melhora muitas vezes mais as respostas do que mudar para outra IA.
Um teste rápido para qualquer agente
Faça ao agente três perguntas cuja resposta sabe que não está na sua informação. Por exemplo, peça o número de telefone de um cliente que não existe. Um agente bem configurado diz que não encontra nenhum. Se inventar um número, aplique os cinco passos acima antes de confiar nele.
Como o Worknano trata disto
No Worknano, os agentes e o assistente trabalham com a informação do seu próprio workspace. Uma pesquisa que entende o sentido, e não apenas as palavras exatas, encontra as passagens certas. Procura também dentro de ficheiros PDF, Word, Excel e PowerPoint. A IA lê essas passagens e responde a partir delas, por isso as respostas ficam próximas do seu próprio conteúdo. As regras de qualidade dos dados mostram onde falta informação ou onde está desatualizada, para fechar as lacunas na origem. E os agentes mostram-lhe cada alteração e esperam pelo seu sim antes de atualizarem seja o que for.
- Pesquisa semântica em todo o seu trabalho
- Qualidade dos dados: regras, pontuação e resumo
- Agentes de IA no Worknano
Crie um workspace gratuito e deixe os agentes responderem a partir dos seus próprios dados.