Garde-fous pour agents IA, avec des exemples
Les garde-fous d'un agent IA sont des limites fixes autour de lui qui gardent une erreur petite. Un agent IA est un programme qui utilise l'IA pour exécuter des tâches à votre place. Les garde-fous décident de ce que l'agent peut voir, de ce qu'il peut faire et du moment où il doit passer la main à une personne. De bons garde-fous ne comptent pas sur le bon comportement de l'IA. Ils tiennent même quand elle se trompe.
Une consigne n'est pas un garde-fou
Pensez à une carte bancaire d'entreprise. Vous pouvez dire à un employé : « Merci de ne pas dépenser plus de 500 euros. » C'est une consigne. Ou la banque peut fixer un plafond de 500 euros sur la carte. C'est un garde-fou. La première dépend de la personne. Le second fonctionne quoi qu'il arrive.
Il en va de même pour un agent. « N'offre jamais plus de dix pour cent de remise » dans ses instructions est une demande. L'agent la suivra presque toujours. Un garde-fou, c'est le contrôle qui bloque un devis à douze pour cent, quoi qu'ait écrit l'agent. Rédigez aussi la consigne, mais ne la comptez pas comme une protection.
Quatre sortes de garde-fous, avec des exemples
- Ce qu'il voit. L'agent facturation ne reçoit que des questions sur les factures. Il peut lire les commandes et les factures. Il ne peut pas lire la paie.
- Ce qu'il peut faire. Il peut préparer une réponse. Il ne peut pas l'envoyer. Il n'a aucun moyen de supprimer quoi que ce soit.
- Dans quelle mesure il peut le faire. Vingt entrées au maximum d'un coup. Un message par client et par jour. Des remboursements seulement jusqu'à un montant fixé.
- Quand il passe la main. Si un client mentionne un avocat, une résiliation ou une plainte contre une personne, l'agent transmet le dossier à un responsable d'équipe et n'écrit rien.
Un jeu de garde-fous pour un agent
Voici à quoi peut ressembler un jeu complet pour un agent qui rédige des réponses aux demandes des clients.
- Il ne reçoit que les demandes arrivées par le formulaire de contact.
- Il lit les commandes et les demandes précédentes de ce client, ainsi que vos textes d'aide. Rien d'autre.
- Il rédige un brouillon. Il ne peut pas l'envoyer.
- Le brouillon doit nommer le texte d'aide ou la commande sur lesquels il s'appuie.
- Il ne promet jamais une date, un remboursement ou un changement de prix. Quand il en faut un, il laisse un blanc signalé à la personne.
- S'il ne peut pas répondre à partir de ce qu'il a lu, il le dit et transmet la demande.
Six règles, et chacune peut être vérifiée. Aucune ne demande à l'agent d'« être prudent ».
Comment écrire un garde-fou qui fonctionne
- Il se vérifie par oui ou non. « Les remboursements au-dessus de 100 euros vont à la finance » se vérifie. « Faire preuve de bon sens avec les remboursements » ne se vérifie pas.
- Il dit ce qui se passe ensuite. S'arrêter, demander, ou passer la main à un rôle nommé. Une règle qui ne fait que bloquer laisse du travail en plan.
- Il a une raison. Chaque règle devrait remonter à une erreur qui s'est produite ou que vous pouvez clairement imaginer.
- Quelqu'un s'en occupe. Les limites et les listes vieillissent. Une personne les tient à jour.
Combien de garde-fous suffisent ?
Commencez strict et assouplissez pas à pas à mesure que l'agent fait ses preuves. Avec trop peu de garde-fous, une mauvaise exécution fait des dégâts. Avec trop, l'agent passe tout la main, et votre équipe se retrouve avec l'ancienne charge plus une file d'attente. L'équilibre est bon quand les passages de main sont une petite part du travail et que la plupart se révèlent justifiés.
Comment Worknano gère cela
Dans Worknano, ce à quoi un agent a accès vient de deux sources : les outils que vous donnez à cet agent et le rôle de la personne qui demande. Les modifications d'enregistrements apparaissent sous forme d'aperçu à confirmer. Pour les limites qui dépendent d'un montant, les chaînes d'Approvals peuvent comporter une étape comme une validation de la finance uniquement au-dessus d'un montant que vous choisissez. Les conditions de workflow décident quels enregistrements parviennent à un agent.
- Rôles et permissions : ce que chaque rôle peut voir et faire
- Approvals : chaînes, conditions et escalade
- Workflows : des conditions avant une étape d'agent
Créez un workspace gratuit et posez les premières limites d'un agent à vous.