Un agent IA peut-il déraper ?
Un agent IA peut-il déraper ? Pas comme dans les films. Un agent IA est un programme qui utilise l'IA pour exécuter des tâches à votre place. Il n'a aucune envie propre et ne fait rien entre deux tâches. Mais il peut mal comprendre une tâche et faire la mauvaise chose. L'ampleur des dégâts dépend de ce à quoi l'agent a accès, et c'est vous qui le décidez.
À quoi ressemble un « dérapage » dans une vraie entreprise
Les cas réalistes sont ordinaires. L'agent essaie de faire son travail et le fait mal.
- Il vous prend trop au mot. À qui l'on dit de « vider la liste des retards », il marque les tâches comme terminées. La liste est vide. Le travail n'est pas fait.
- Il ne sait pas où s'arrêter. À qui l'on demande de relancer les mauvais payeurs, il écrit à tous les clients ayant une facture ouverte, y compris ceux qui ont encore du temps.
- Il range trop bien. À qui l'on demande de supprimer les doublons, il fusionne deux clients différents qui portent le même nom.
- Il écoute la mauvaise voix. Une ligne au milieu d'un e-mail lui dit quoi faire, et il obéit. Cette astuce s'appelle l'injection de prompt et fait l'objet d'un article à part.
Pensez à un assistant zélé le premier jour. Il veut bien faire. Le risque n'est pas la mauvaise intention. Le risque, c'est un malentendu combiné aux clés de toutes les pièces.
Trois éléments qui doivent se combiner
Chacun de ces cas demande trois éléments à la fois :
- une tâche qui peut se comprendre de plusieurs façons,
- plus d'accès que le travail n'en demande,
- personne qui regarde avant que le résultat soit définitif.
Retirez-en un, et l'incident se réduit à une mauvaise suggestion que quelqu'un refuse. L'accès est le plus facile des trois à maîtriser, car il ne dépend pas du comportement de l'IA un jour donné.
L'exercice du pire jour
Avant qu'un agent se mette au travail, prenez dix minutes et répondez par écrit à cinq questions.
- Que peut lire cet agent ?
- Que peut-il modifier, envoyer ou supprimer ?
- Imaginons qu'il se trompe sur tout cela d'un seul coup. Quels seraient les dégâts ?
- Quelle part pourriez-vous annuler d'ici demain matin ?
- Comment le remarqueriez-vous, et qui peut l'arrêter ?
Si la réponse à la question trois vous inquiète, ne cherchez pas une meilleure formulation des instructions. Raccourcissez les listes des questions un et deux jusqu'à ce que le pire jour ne soit plus qu'un mauvais après-midi.
Garder une portée réduite
- Un agent, une mission. Un agent pour les factures n'a rien à faire dans les dossiers du personnel.
- Pas de passe-partout. L'agent agit pour une personne identifiée, avec les droits de cette personne. Il ne reçoit jamais un compte partagé qui peut tout faire.
- Commencez par la lecture. Autorisez les modifications plus tard, domaine par domaine, quand les résultats l'ont mérité.
- Gardez un interrupteur. Quelqu'un doit savoir comment mettre l'agent en pause et en avoir le droit.
Ce qu'un agent ne peut pas faire
Il est utile de connaître les limites de l'inquiétude. Un agent ne peut pas s'attribuer des droits qu'on ne lui a pas donnés. Il ne peut pas utiliser un outil que personne n'a connecté. Il ne démarre pas tout seul : c'est une personne, un calendrier ou un événement qui le lance. Il ne garde aucun plan caché d'une tâche à l'autre. Tout ce qu'il fait passe par l'accès que vous avez configuré. C'est pourquoi le « dérapage » est bien plus une question de configuration que d'IA.
Comment Worknano gère cela
Dans Worknano, un agent ne peut lire que ce que l'utilisateur connecté a le droit de lire. Quand il veut modifier quelque chose, il vous montre d'abord la modification et attend votre confirmation. Il ne peut pas contourner les permissions. Les rôles définissent ce que chaque personne peut voir et faire, jusqu'aux champs et aux lignes, et l'agent reste dans le rôle de celui qui a demandé. Chaque agent ne reçoit en outre que les outils dont il a besoin.
- Rôles et permissions dans Worknano
- Démo : l'agent propose et attend votre accord
- Créer votre propre agent, avec ses limites en toute franchise
Créez un workspace gratuit et voyez jusqu'où un agent peut aller avec votre rôle.