Waarom hallucineren AI-agents en hoe voorkom je het?
Een AI-agent hallucineert als hij iets zegt dat klopt zoals het klinkt, maar verzonnen is. De hoofdoorzaak is simpel. AI is gebouwd om altijd een vloeiend antwoord te geven. Als de feiten ontbreken, vult hij de leemte met iets wat waarschijnlijk klinkt.
Een vergelijking uit het dagelijks leven
Stel je een nieuwe medewerker voor die nooit “dat weet ik niet” zegt. Een klant vraagt wanneer de bestelling aankomt. De medewerker heeft geen toegang tot de orderlijst en noemt een datum die redelijk klinkt. Hij bedoelt er niets kwaads mee. Hij mist alleen de informatie en zegt dat niet. AI gedraagt zich precies zo.
Wanneer het gebeurt
- De informatie is er niet. Vraag naar een klant die de agent niet kan opzoeken, en hij beschrijft misschien een doorsnee klant.
- De informatie spreekt elkaar tegen. Er zijn twee versies van een prijslijst. De agent kiest er een of haalt ze door elkaar.
- De vraag is te breed. “Vertel me over onze verkoop” nodigt uit tot algemeenheden.
- Er is te veel om te lezen. Krijgt de agent vijftig documenten tegelijk, dan kan hij de ene zin missen die ertoe deed.
Waarom het bij agents zwaarder weegt dan bij een chat
Een AI-agent geeft niet alleen antwoord. Hij handelt ook. Is een chatantwoord fout, dan lees je het en kun je het negeren. Heeft een agent het mis, dan kan de fout zich verplaatsen. Een verzonnen leverdatum komt in een e-mail terecht. Een geraden bedrag wordt in je gegevens opgeslagen. De onderstaande beveiligingen horen dus vanaf het begin bij de opzet.
Vijf manieren om het te voorkomen
- Laat hem dingen opzoeken. Een agent die het echte klantrecord, de bestelling en het contract kan openen, heeft geen reden om te gokken.
- Vraag om de bron. Elke bewering moet laten zien waar ze vandaan komt. Een antwoord zonder bron is een waarschuwingssignaal.
- Sta “niet gevonden” toe. Zeg in zijn instructies dat “dit staat niet in onze informatie” een goed antwoord is.
- Houd de klus klein. “Zoek het factuurnummer, de datum en het totaalbedrag” is veiliger dan “handel deze factuur af”.
- Laat bevestigen voordat hij opslaat of verstuurt. Een mens ziet eerst de voorgestelde wijziging.
De stille oorzaak: rommelige informatie
Veel verzonnen antwoorden zijn niet de schuld van de AI. Een klant die twee keer is ingevoerd, een bestelling zonder datum of een taak die van niemand is, laat gaten vallen. De agent moet dan met die gaten werken. Je informatie opruimen verbetert de antwoorden vaak meer dan overstappen op een andere AI.
Een snelle test voor elke agent
Stel de agent drie vragen waarvan je weet dat het antwoord niet in jouw informatie staat. Vraag bijvoorbeeld naar het telefoonnummer van een klant die niet bestaat. Een goed ingestelde agent zegt dat hij er geen kan vinden. Verzint hij een nummer, pas dan de vijf stappen hierboven toe voordat je op hem vertrouwt.
Zo pakt Worknano dit aan
In Worknano werken agents en de assistent met de informatie in je eigen workspace. Een zoekfunctie die betekenis begrijpt, niet alleen exacte woorden, vindt de juiste passages. Ze kijkt ook in PDF-, Word-, Excel- en PowerPoint-bestanden. De AI leest die passages en antwoordt daaruit, zodat de antwoorden dicht bij je eigen inhoud blijven. Regels voor datakwaliteit laten zien waar informatie ontbreekt of verouderd is, zodat je de gaten kunt dichten waar ze ontstaan. En agents laten je elke wijziging zien en wachten op jouw ja voordat ze iets bijwerken.
Maak een gratis workspace en laat agents antwoorden uit je eigen gegevens halen.