Kto odpowiada za błędy AI?
Kto odpowiada za błędy AI? Co do zasady firma, która wprowadza AI do pracy, odpowiada za to, co ono robi, tak samo jak odpowiada za inne narzędzia i za swoich pracowników. AI nie jest osobą i samo nie może ponosić odpowiedzialności. Ten artykuł daje ogólną orientację. To nie jest porada prawna, a szczegóły zależą od twojego kraju, branży i umów.
Dlaczego "to AI" nie jest odpowiedzią
Klient ma do czynienia z twoją firmą, a nie z twoimi narzędziami. Jeśli kasa w piekarni wydrukuje złą cenę, klient rozmawia z piekarzem, a nie z producentem kasy. Z AI jest tak samo. Jeśli agent AI, czyli program, który za pomocą AI wykonuje za ciebie zadania, wyśle złą cenę, to twoja firma wysłała złą cenę.
To, czy ta cena cię wiąże i czy potem możesz zwrócić się do dostawcy, to pytania prawne dla doradcy. W codziennej praktyce bezpieczne założenie jest proste: to, co opuszcza twoją firmę pod twoim szyldem, jest twoje.
Co możesz uregulować już dziś
Samodzielnie nie rozstrzygniesz kwestii prawnych. Możesz za to uregulować kwestię wewnętrzną: kto w twojej firmie za co odpowiada. Prawdziwym ryzykiem jest agent, którym nikt się nie opiekuje. Wystarczy kilka jasnych ról. W małej firmie jedna osoba może pełnić kilka z nich.
| Rola | Odpowiada za | Przykład |
|---|---|---|
| Zarząd | Jakie zadania AI może wykonywać i zasady dla nich | "Agenci mogą pisać szkice maili do klientów. Nie mogą ich wysyłać." |
| Właściciel agenta | Do czego agent służy i jak dobrze działa | Szef sprzedaży jest właścicielem agenta od przypomnień |
| Administrator | Do czego agent ma dostęp | Agent od przypomnień widzi deale, a nie listy płac |
| Zatwierdzający | Każdą propozycję, na którą powie tak | Handlowiec czyta szkic, zanim wyjdzie |
Trzy sytuacje, po kolei
- Agent działał sam, w ramach reguł, a wynik był zły. Reguła pozwalała na zbyt wiele. Zarząd i właściciel agenta ją zaostrzają.
- Człowiek zatwierdził złą propozycję. Zatwierdzający odpowiada za swoje tak. Ale jeśli propozycje są zbyt długie albo zbyt niejasne, żeby je sprawdzić, pracę ma też właściciel agenta.
- Ktoś użył agenta do czegoś, do czego nie był przeznaczony. Ta osoba odpowiada w pierwszej kolejności. Jeśli agent nigdy nie powinien był mieć takiego dostępu, odpowiada też administrator.
Jedna strona do spisania
Mała firma nie potrzebuje grubej polityki AI. Wystarczy jedna strona.
- Jakie zadania AI może wykonywać, a jakich nie.
- Które działania wymagają zgody człowieka.
- Kto jest właścicielem każdego agenta, z imienia i nazwiska.
- Jak zgłasza się pomyłkę, kto ją poprawia i kto informuje klienta.
- Data, kiedy strona jest przeglądana.
Pokaż tę stronę raz swoim doradcom prawnemu i ubezpieczeniowemu. Powiedzą ci, co do niej dodaje twoja branża. Przeczytaj też, co umowy z dostawcami oprogramowania mówią o błędach, zanim oprzesz na agencie cokolwiek, co kosztuje pieniądze.
Odpowiedzialność to nie wina
Wskazywanie właścicieli ma sprawić, że ktoś działa, gdy coś pójdzie nie tak. Jeśli powiedzenie tak na propozycję agenta oznacza branie na siebie całej winy, ludzie przestają mówić tak i agent przestaje być użyteczny. Niech będzie normalne, że zły wynik zgłasza się szybko. Traktuj każde zgłoszenie jako powód do ulepszenia konfiguracji. I zachowuj zapis tego, co zrobił agent, żeby dyskusja dotyczyła faktów.
Jak robi to Worknano
W Worknano agent działa w ramach uprawnień osoby, która o coś poprosiła. Każde działanie agenta należy więc do konkretnego użytkownika. Agenci proponują zmiany, a ta osoba widzi wartości i je potwierdza. Decyzje, które należą do kierownika, przechodzą przez moduł Approvals, w którym każda akceptacja i odrzucenie jest zapisywana z czasem i użytkownikiem. Approvals podążają za strukturą twojej organizacji, więc prośba trafia do właściwego kierownika.
- Approvals: kto zatwierdził i kiedy
- Role i uprawnienia
- Organization: zespoły, role i linie raportowania
Załóż darmowy workspace i przypisz każdemu działaniu agenta konkretnego właściciela.