Zijn AI agents deterministisch?
AI agents zijn niet deterministisch. Deterministisch betekent dat dezelfde invoer altijd hetzelfde resultaat geeft, zoals bij een rekenmachine. Een AI agent, een programma dat AI gebruikt om taken uit te voeren, is in plaats daarvan probabilistisch: hij kiest uit meerdere waarschijnlijke antwoorden, dus twee runs van hetzelfde verzoek kunnen een beetje verschillen. Je kunt dat verminderen, en je kunt het weghouden van de stappen waar het zou schaden.
Waarom krijgt dezelfde vraag twee antwoorden?
Vraag een collega om dezelfde e-mail te schrijven op maandag en nog eens op vrijdag. De twee mails zeggen hetzelfde in andere woorden. Een AI gedraagt zich ongeveer zo. Hij zoekt een antwoord niet op. Hij bouwt het antwoord woord voor woord op, en voor elk woord kiest hij er een uit meerdere die passen.
Een instelling die temperatuur heet, bepaalt hoe vrij hij kiest. Een hoge waarde geeft levendiger, gevarieerdere tekst. Een lage waarde houdt de AI dicht bij de meest waarschijnlijke formulering.
Bij een agent kan het effect groter worden, omdat een agent in meerdere stappen werkt. Een klein verschil aan het begin verandert wat hij daarna leest.
Lost een lage temperatuur het op?
De agent wordt er veel consistenter door. Identieke resultaten garandeert het niet. En consistent is niet hetzelfde als juist: een agent kan elke keer hetzelfde foute antwoord geven. Toch is consistentie de moeite waard, want een fout die zich herhaalt is makkelijk te vinden en te herstellen.
Waar variatie prima is en waar niet
- Prima: de formulering van e-mails en samenvattingen, ideeën, alternatieve formuleringen.
- Prima als iemand controleert: aanvragen in categorieën sorteren, waarden uit een document lezen.
- Niet acceptabel: prijzen, totalen, belasting, contractdata, wie toegang krijgt, of een betaling wordt uitgevoerd.
Een voorbeeld: één offerte, in tweeën
Een klant schrijft: "We willen graag een offerte voor 40 licenties. We zijn al drie jaar klant bij jullie." Als de agent de hele taak alleen doet, kan de korting van dag tot dag verschillen. Splits de taak dus.
- De e-mail lezen: de agent. Hij noteert het product, het aantal en de klant.
- De korting: een vaste regel. Een tabel zegt wat 40 licenties en drie jaar waard zijn. Morgen zegt hij hetzelfde.
- Het totaal: een berekening, nooit de AI.
- De begeleidende e-mail: de agent. Twee verschillende concepten zijn hier geen probleem.
- Verzenden: een mens leest de offerte en bevestigt.
De klant krijgt een persoonlijke e-mail en een prijs die iedereen in het bedrijf kan uitleggen. De agent deed de twee stappen die taal nodig hebben. Alles wat elke keer hetzelfde moet zijn, werd nooit aan het toeval overgelaten.
Vier manieren om een agent consistenter te maken
- Verlaag de temperatuur voor controleren en sorteren.
- Leg de vorm van het antwoord vast. "Kies een van deze vier categorieën" laat weinig ruimte om af te dwalen.
- Geef voorbeelden voor de grensgevallen, zodat de agent ze elke keer hetzelfde beslist.
- Houd de taak klein. Eén beslissing per agent varieert minder dan vijf.
Wat dit betekent voor een klein bedrijf
Vraag niet of een agent deterministisch is. Vraag welke delen van de taak dat moeten zijn. Zet die in regels en berekeningen, en geef de agent het lezen en het schrijven. Dan is de variatie welkom waar je een menselijk tintje wilt en afwezig waar je zekerheid nodig hebt.
Zo pakt Worknano dit aan
Met Worknano houd je het vaste deel en het flexibele deel in één proces. Een workflow is een set stappen die vooraf is vastgelegd: wat hem start, onder welke voorwaarden en wat er dan gebeurt. Een agent is één stap daarin. Elke agent heeft zijn eigen temperatuur, lager voor stabiele antwoorden en hoger voor meer variatie. Je kunt de agent ook voorbeelden geven om hem bij grensgevallen te sturen.
- Workflows: triggers, voorwaarden en acties
- Bouw je eigen agent: instructies, model en temperatuur
- AI agents en hun soorten uitvoer
Maak een gratis workspace en zet een regel en een agent in dezelfde workflow.