Waarom zijn AI agents zo traag, en wat maakt ze sneller?
AI agents zijn traag omdat ze niet in één keer antwoorden. Een AI agent is een programma dat AI gebruikt om een taak voor je uit te voeren, en hij werkt in rondes: hij leest, beslist, zoekt iets op en begint opnieuw. Elke ronde duurt een paar seconden. Het meeste wachten verdwijnt als de agent minder te lezen heeft en een duidelijkere taak.
Een vergelijking van kantoor
Stel je een uitzendkracht voor op zijn eerste dag. Jij vraagt: "Welke klanten hebben we twee weken niet gesproken? Schrijf elk een kort berichtje." De uitzendkracht loopt naar de archiefkast, komt terug, leest zijn aantekeningen vanaf het begin, loopt weer naar de kast, enzovoort. De kast openen gaat snel. Het lopen, herlezen en schrijven kost de tijd.
Een agent werkt op dezelfde manier. Iets opzoeken in je gegevens is snel. Lezen en schrijven zijn langzaam, en de agent doet beide opnieuw in elke ronde.
Waar de tijd heen gaat: één verzoek, stap voor stap
Neem hetzelfde verzoek over klanten zonder contact. Dit gebeurt er voordat je een antwoord ziet.
- De agent leest zijn instructies en jouw vraag.
- Hij besluit de open deals op te zoeken en vraagt je klantsysteem erom.
- De lijst komt terug. Dit is meestal het snelste deel.
- De agent leest de lijst en ziet dat hij per deal het laatste contact nodig heeft. Hij zoekt die op, vaak een voor een.
- Hij leest alles opnieuw: instructies, vraag en alle resultaten tot nu toe.
- Hij schrijft de berichtjes, woord voor woord.
Je gegevens kregen een paar snelle vragen. De AI werd vier of vijf keer aangeroepen, en elke keer had hij meer te lezen. Dat is het patroon achter bijna elke trage agent: veel rondes, en veel tekst in elke ronde.
Vier veelvoorkomende oorzaken
- Een vage taak. "Zoek de deal die ik bedoel" laat de agent rondzoeken. Elke extra blik kost een hele ronde.
- Te veel om te lezen. Hele documenten en lange geschiedenissen worden in elke ronde opnieuw gelezen.
- Een lang antwoord. Schrijven is het langzaamste wat een AI doet. Een pagina tekst duurt veel langer dan een ja of nee met één regel uitleg.
- Een sterkere AI dan de taak nodig heeft. De krachtigste AI-modellen doen er langer over om te antwoorden. Een simpele controle heeft er zelden een nodig.
Wat een agent sneller maakt
- Zeg precies waar hij moet beginnen. "Deze deal" gaat sneller dan "een van onze deals".
- Geef hem de passage, niet het bestand. Drie alinea's die ertoe doen lees je sneller dan dertig pagina's.
- Vraag om een kort antwoord. Een categorie, een datum en één zin zijn snel geschreven.
- Gebruik een snel AI-model voor simpele klussen. Bewaar het sterke voor taken met veel stappen.
- Haal vaste stappen bij de agent weg. Alles wat altijd hetzelfde is, hoort in een eenvoudige regel, die meteen draait.
Wanneer traag er niet toe doet
Snelheid telt als iemand voor een chat zit te wachten. Het telt veel minder als de agent op de achtergrond werkt. Als een nieuwe aanvraag een minuut nadat hij binnenkwam is gesorteerd, merkt niemand die minuut. Vraag dus eerst wie er wacht. Lange klussen, zoals een hele klantenlijst doorlopen, kunnen 's nachts draaien of vanzelf starten als er iets verandert. Het resultaat ligt er dan gewoon als mensen het nodig hebben.
Zo pakt Worknano dit aan
In Worknano gebruiken agents en de assistent semantisch zoeken, dat tekst vindt op betekenis. Ze lezen alleen de passages die ertoe doen, dus antwoorden komen sneller. Elke agent heeft een eigen modelinstelling: een snel model past bij korte controles, een gebalanceerd model bij taken met meerdere stappen. Agents kunnen ook vanzelf draaien als een record verandert of volgens een schema, zodat langere klussen niemand laten wachten. Het auditlogboek registreert hoe lang elke run van een agent duurde, zodat je ziet welke je moet verbeteren.
- Semantisch zoeken in al je werk
- AI agents in Worknano
- Bouw je eigen agent: model, tools en instructies
Maak een gratis workspace en meet de tijd van een agent op je eigen gegevens.