AI agent guardrails, met voorbeelden
AI agent guardrails zijn vaste grenzen rond een AI agent die een fout klein houden. Een AI agent is een programma dat AI gebruikt om taken voor je uit te voeren. Guardrails bepalen wat de agent te zien krijgt, wat hij mag doen en wanneer hij moet overdragen aan een mens. Goede guardrails rekenen er niet op dat de AI zich goed gedraagt. Ze houden stand, ook als hij iets verkeerd doet.
Een instructie is geen guardrail
Denk aan een bedrijfspas. Je kunt tegen een medewerker zeggen: "Geef alsjeblieft niet meer dan 500 euro uit." Dat is een instructie. Of de bank kan een limiet van 500 euro op de pas zetten. Dat is een guardrail. De eerste hangt af van de persoon. De tweede werkt wat er ook gebeurt.
Bij een agent is het hetzelfde. "Bied nooit meer dan tien procent korting aan" in zijn instructies is een verzoek. De agent volgt het bijna altijd. Een guardrail is de controle die een offerte met twaalf procent tegenhoudt, wat de agent ook schreef. Schrijf de instructie er ook bij, maar reken haar niet als bescherming.
Vier soorten guardrails, met voorbeelden
- Wat hij ziet. De facturatieagent krijgt alleen vragen over rekeningen. Hij kan bestellingen en facturen lezen. Hij kan de salarisadministratie niet lezen.
- Wat hij mag doen. Hij kan een antwoord klaarzetten. Hij kan het niet versturen. Hij kan niets verwijderen.
- Hoeveel hij mag doen. Maximaal twintig items in één keer. Eén bericht per klant per dag. Terugbetalingen alleen tot een vast bedrag.
- Wanneer hij overdraagt. Noemt een klant een advocaat, een opzegging of een klacht over een persoon, dan geeft de agent de zaak door aan een teamleider en schrijft hij niets.
Een set guardrails voor één agent
Zo kan een complete set eruitzien voor een agent die antwoorden op klantverzoeken opstelt.
- Hij ontvangt alleen verzoeken die via het contactformulier binnenkwamen.
- Hij leest de bestellingen en eerdere verzoeken van die klant, en je helpteksten. Verder niets.
- Hij schrijft een concept. Hij kan niet versturen.
- Het concept moet de helptekst of de bestelling noemen waarop het steunt.
- Hij belooft nooit een datum, een terugbetaling of een prijswijziging. Waar die nodig is, laat hij een gemarkeerde open plek voor de mens.
- Kan hij niet antwoorden op grond van wat hij las, dan zegt hij dat en geeft hij het verzoek door.
Zes regels, en elke is te controleren. Geen enkele vraagt de agent om "voorzichtig te zijn".
Hoe je een guardrail schrijft die werkt
- Hij is met ja of nee te controleren. "Terugbetalingen boven 100 euro gaan naar finance" is te controleren. "Gebruik gezond verstand bij terugbetalingen" niet.
- Hij zegt wat er daarna gebeurt. Stoppen, vragen of overdragen aan een benoemde rol. Een regel die alleen blokkeert, laat werk liggen.
- Hij heeft een reden. Elke regel moet teruggaan op een fout die gebeurde of die je je duidelijk kunt voorstellen.
- Iemand beheert hem. Limieten en lijsten raken verouderd. Eén persoon houdt ze actueel.
Hoeveel guardrails zijn genoeg?
Begin streng en versoepel stap voor stap naarmate de agent zich bewijst. Bij te weinig guardrails richt één slechte run schade aan. Bij te veel draagt de agent alles over, en heeft je team de oude werklast plus een wachtrij. De balans is goed als overdrachten een klein deel van het werk zijn en de meeste terecht blijken.
Zo pakt Worknano dit aan
In Worknano komt wat een agent kan bereiken uit twee plekken: de tools die je die agent geeft en de rol van de persoon die het vraagt. Wijzigingen in records verschijnen als voorbeeld dat je bevestigt. Voor limieten die van een bedrag afhangen, kunnen goedkeuringsketens een stap bevatten zoals een goedkeuring door finance, alleen boven een bedrag dat jij kiest. Voorwaarden in workflows bepalen welke records een agent überhaupt bereiken.
- Rollen en rechten: wat elke rol kan zien en doen
- Approvals: ketens, voorwaarden en escalatie
- Workflows: voorwaarden voor een agentstap
Maak een gratis workspace en stel de eerste grenzen in voor een eigen agent.