Qui est responsable des erreurs d'une IA ?
Qui est responsable des erreurs d'une IA ? En règle générale, l'entreprise qui met une IA au travail répond de ce qu'elle fait, comme elle répond de ses autres outils et de son personnel. Une IA n'est pas une personne et ne peut pas porter elle-même une responsabilité. Cet article donne une orientation générale. Ce n'est pas un conseil juridique, et les détails dépendent de votre pays, de votre secteur et de vos contrats.
Pourquoi « c'est l'IA qui l'a fait » n'est pas une réponse
Un client a affaire à votre entreprise, pas à vos outils. Si la caisse d'une boulangerie imprime un mauvais prix, le client s'adresse au boulanger, pas au fabricant de la caisse. Il en va de même avec l'IA. Si un agent IA, un programme qui utilise l'IA pour exécuter des tâches à votre place, envoie un mauvais prix, c'est votre entreprise qui a envoyé un mauvais prix.
Savoir si vous êtes tenu par ce prix, et si vous pouvez vous retourner ensuite contre un fournisseur, relève d'un conseiller juridique. Pour la pratique quotidienne, l'hypothèse prudente est simple : ce qui sort de votre entreprise sous votre nom est de votre fait.
Ce que vous pouvez régler dès aujourd'hui
Vous ne pouvez pas régler seul les questions juridiques. Vous pouvez régler la question interne : qui, dans votre entreprise, s'occupe de quoi. Un agent dont personne ne s'occupe est le vrai risque. Quelques rôles clairs suffisent. Dans une petite entreprise, une même personne peut en tenir plusieurs.
| Rôle | Répond de | Exemple |
|---|---|---|
| La direction | Quelles tâches l'IA peut faire, et les règles qui les encadrent | « Les agents peuvent rédiger des e-mails clients. Ils ne peuvent pas les envoyer. » |
| Le responsable de l'agent | À quoi sert l'agent et dans quelle mesure il fonctionne bien | Le responsable des ventes est responsable de l'agent de relance |
| L'administrateur | Ce à quoi l'agent a accès | L'agent de relance voit les deals, pas la paie |
| Le validateur | Chaque proposition à laquelle il dit oui | Le commercial relit le brouillon avant qu'il parte |
Trois situations, triées
- L'agent a agi seul, dans ses règles, et le résultat était faux. La règle autorisait trop. La direction et le responsable de l'agent la resserrent.
- Une personne a validé une proposition erronée. Le validateur répond de son oui. Mais si les propositions sont trop longues ou trop floues pour être vérifiées, le responsable de l'agent a aussi du travail.
- Quelqu'un a utilisé un agent pour autre chose que ce pour quoi il était prévu. Cette personne répond en premier. Si l'agent n'aurait jamais dû avoir cet accès, l'administrateur aussi.
Une page à mettre par écrit
Une petite entreprise n'a pas besoin d'une épaisse charte de l'IA. Une page suffit.
- Quelles tâches l'IA peut faire, et lesquelles elle ne peut pas faire.
- Quelles actions demandent l'accord d'une personne.
- Qui est responsable de chaque agent, nommément.
- Comment une erreur est signalée, qui la corrige et qui prévient le client.
- Une date de révision de la page.
Montrez cette page une fois à vos conseillers juridiques et à votre assureur. Ils pourront vous dire ce que votre secteur y ajoute. Lisez aussi ce que disent vos contrats avec les éditeurs de logiciels en cas d'erreur, avant de vous appuyer sur un agent pour quoi que ce soit qui coûte de l'argent.
Responsabilité n'est pas faute
L'intérêt de nommer des responsables est que quelqu'un agit quand quelque chose tourne mal. Si dire oui à la proposition d'un agent revient à porter toute la faute, les gens cessent de dire oui et l'agent cesse d'être utile. Faites en sorte qu'il soit normal de signaler vite un mauvais résultat. Traitez chaque signalement comme une raison d'améliorer la configuration. Et gardez une trace de ce que l'agent a fait, pour que la discussion porte sur des faits.
Comment Worknano gère cela
Dans Worknano, un agent travaille dans les permissions de la personne qui a demandé. Chaque action d'un agent appartient donc à un utilisateur nommé. Les agents proposent des modifications, et cette personne voit les valeurs et les confirme. Les décisions qui reviennent à un responsable passent par le module Approvals, où chaque validation et chaque refus sont consignés avec l'heure et l'utilisateur. Les validations suivent la structure de votre organisation, si bien que la demande atteint le bon responsable.
- Approvals : qui a validé, et quand
- Rôles et permissions
- Organization : équipes, rôles et lignes hiérarchiques
Créez un workspace gratuit et donnez à chaque action d'agent un responsable nommé.