Kunnen AI agents op hol slaan?
Kunnen AI agents op hol slaan? Niet zoals in de films. Een AI agent is een programma dat AI gebruikt om taken voor je uit te voeren. Hij heeft geen eigen wensen en doet niets tussen taken door. Maar hij kan een taak verkeerd begrijpen en het verkeerde doen. Hoeveel schade dat geeft, hangt af van waar de agent bij mag, en dat bepaal jij.
Hoe "op hol slaan" eruitziet in een echt bedrijf
De realistische gevallen zijn gewoon. De agent probeert zijn werk te doen en doet het verkeerd.
- Hij neemt je te letterlijk. Gevraagd om "de lijst met achterstallige taken leeg te maken", zet hij de taken op afgerond. De lijst is leeg. Het werk is niet gedaan.
- Hij weet niet waar hij moet stoppen. Gevraagd om late betalers te herinneren, schrijft hij elke klant met een openstaande factuur aan, ook wie nog tijd heeft.
- Hij ruimt te goed op. Gevraagd om dubbele gegevens te verwijderen, voegt hij twee verschillende klanten samen die dezelfde naam hebben.
- Hij luistert naar de verkeerde stem. Een regel in een e-mail zegt wat hij moet doen, en hij gehoorzaamt. Deze truc heet prompt injection en heeft een eigen artikel.
Denk aan een enthousiaste nieuwe assistent op zijn eerste dag. Hij bedoelt het goed. Het risico is niet slechte wil. Het risico is een misverstand in combinatie met de sleutels van alle kamers.
Drie dingen die samen moeten komen
Elk van deze gevallen heeft drie dingen tegelijk nodig:
- een taak die op meer dan één manier te begrijpen is,
- meer toegang dan de taak nodig heeft,
- niemand die kijkt voordat het resultaat definitief is.
Haal er één weg en het incident krimpt tot een verkeerd voorstel dat iemand afwijst. Toegang is het makkelijkst te beheersen van de drie, omdat het niet afhangt van hoe de AI zich op een bepaalde dag gedraagt.
De oefening voor de slechtste dag
Neem voordat een agent aan het werk gaat tien minuten en beantwoord vijf vragen op papier.
- Wat kan deze agent lezen?
- Wat kan hij wijzigen, versturen of verwijderen?
- Stel dat hij dat allemaal in één keer verkeerd deed. Wat zou de schade zijn?
- Hoeveel zou je morgenochtend kunnen terugdraaien?
- Hoe zou je het merken, en wie kan hem stoppen?
Als het antwoord op vraag drie je zorgen baart, zoek dan geen betere formulering in de instructies. Kort de lijsten bij vraag een en twee in tot de slechtste dag nog maar een slechte middag is.
De reikwijdte klein houden
- Eén agent, één taak. Een agent voor facturen heeft niets te zoeken in de personeelsdossiers.
- Geen loper. De agent handelt namens een benoemde persoon, met de rechten van die persoon. Hij krijgt nooit een gedeeld account dat alles mag.
- Begin met lezen. Sta wijzigingen later toe, gebied voor gebied, als de resultaten het hebben verdiend.
- Houd een uitknop. Iemand moet weten hoe je de agent pauzeert en dat mogen.
Wat een agent niet kan
Het helpt om de grenzen van de zorg te kennen. Een agent kan zichzelf geen rechten geven die hij niet kreeg. Hij kan geen tool gebruiken die niemand heeft gekoppeld. Hij start niet uit zichzelf: een mens, een schema of een gebeurtenis start hem. Hij bewaart geen verborgen plan van de ene taak naar de volgende. Alles wat hij doet loopt via de toegang die jij hebt ingesteld. Daarom is "op hol slaan" veel meer een kwestie van inrichting dan van AI.
Zo pakt Worknano dit aan
In Worknano kan een agent alleen lezen wat de ingelogde gebruiker mag lezen. Als hij iets wil wijzigen, laat hij je de wijziging eerst zien en wacht hij op je bevestiging. Hij kan de rechten niet omzeilen. Rollen bepalen wat elke persoon mag zien en doen, tot op afzonderlijke velden en rijen, en de agent blijft binnen de rol van wie het vroeg. Elke agent krijgt bovendien alleen de tools die hij nodig heeft.
- Rollen en rechten in Worknano
- Demo: de agent stelt voor en wacht op je ja
- Bouw je eigen agent, met zijn eerlijke grenzen
Maak een gratis workspace en zie hoe ver een agent met jouw rol kan reiken.