Worknano

Garde-fous pour agents IA, avec des exemples

Updated 2026-11-15

Les garde-fous d'un agent IA sont des limites fixes autour de lui qui gardent une erreur petite. Un agent IA est un programme qui utilise l'IA pour exécuter des tâches à votre place. Les garde-fous décident de ce que l'agent peut voir, de ce qu'il peut faire et du moment où il doit passer la main à une personne. De bons garde-fous ne comptent pas sur le bon comportement de l'IA. Ils tiennent même quand elle se trompe.

Une consigne n'est pas un garde-fou

Pensez à une carte bancaire d'entreprise. Vous pouvez dire à un employé : « Merci de ne pas dépenser plus de 500 euros. » C'est une consigne. Ou la banque peut fixer un plafond de 500 euros sur la carte. C'est un garde-fou. La première dépend de la personne. Le second fonctionne quoi qu'il arrive.

Il en va de même pour un agent. « N'offre jamais plus de dix pour cent de remise » dans ses instructions est une demande. L'agent la suivra presque toujours. Un garde-fou, c'est le contrôle qui bloque un devis à douze pour cent, quoi qu'ait écrit l'agent. Rédigez aussi la consigne, mais ne la comptez pas comme une protection.

Quatre sortes de garde-fous, avec des exemples

Un jeu de garde-fous pour un agent

Voici à quoi peut ressembler un jeu complet pour un agent qui rédige des réponses aux demandes des clients.

  1. Il ne reçoit que les demandes arrivées par le formulaire de contact.
  2. Il lit les commandes et les demandes précédentes de ce client, ainsi que vos textes d'aide. Rien d'autre.
  3. Il rédige un brouillon. Il ne peut pas l'envoyer.
  4. Le brouillon doit nommer le texte d'aide ou la commande sur lesquels il s'appuie.
  5. Il ne promet jamais une date, un remboursement ou un changement de prix. Quand il en faut un, il laisse un blanc signalé à la personne.
  6. S'il ne peut pas répondre à partir de ce qu'il a lu, il le dit et transmet la demande.

Six règles, et chacune peut être vérifiée. Aucune ne demande à l'agent d'« être prudent ».

Comment écrire un garde-fou qui fonctionne

Combien de garde-fous suffisent ?

Commencez strict et assouplissez pas à pas à mesure que l'agent fait ses preuves. Avec trop peu de garde-fous, une mauvaise exécution fait des dégâts. Avec trop, l'agent passe tout la main, et votre équipe se retrouve avec l'ancienne charge plus une file d'attente. L'équilibre est bon quand les passages de main sont une petite part du travail et que la plupart se révèlent justifiés.

Comment Worknano gère cela

Dans Worknano, ce à quoi un agent a accès vient de deux sources : les outils que vous donnez à cet agent et le rôle de la personne qui demande. Les modifications d'enregistrements apparaissent sous forme d'aperçu à confirmer. Pour les limites qui dépendent d'un montant, les chaînes d'Approvals peuvent comporter une étape comme une validation de la finance uniquement au-dessus d'un montant que vous choisissez. Les conditions de workflow décident quels enregistrements parviennent à un agent.

Créez un workspace gratuit et posez les premières limites d'un agent à vous.