Guardrails dla agentów AI, z przykładami
Guardrails dla agentów AI to stałe ograniczenia wokół agenta AI, które sprawiają, że pomyłka pozostaje mała. Agent AI to program, który za pomocą AI wykonuje za ciebie zadania. Guardrails decydują, co agent może zobaczyć, co może robić i kiedy musi przekazać sprawę człowiekowi. Dobre guardrails nie opierają się na tym, że AI będzie się zachowywać dobrze. Działają nawet wtedy, gdy się pomyli.
Instrukcja to nie guardrail
Pomyśl o karcie firmowej. Możesz powiedzieć pracownikowi: "Proszę nie wydawać więcej niż 500 euro." To instrukcja. Albo bank może ustawić na karcie limit 500 euro. To guardrail. Pierwsze zależy od człowieka. Drugie działa, cokolwiek się stanie.
Z agentem jest tak samo. "Nigdy nie oferuj więcej niż dziesięć procent rabatu" w instrukcjach to prośba. Agent prawie zawsze się jej trzyma. Guardrail to kontrola, która zatrzyma wycenę z dwunastoma procentami, cokolwiek agent napisał. Zapisz też instrukcję, ale nie traktuj jej jako ochrony.
Cztery rodzaje guardrails, z przykładami
- Co widzi. Agent od rozliczeń dostaje tylko pytania o rachunki. Może czytać zamówienia i faktury. Nie może czytać list płac.
- Co może robić. Może przygotować odpowiedź. Nie może jej wysłać. Nie ma możliwości niczego usunąć.
- Ile może zrobić. Najwyżej dwadzieścia wpisów naraz. Jedna wiadomość na klienta dziennie. Zwroty tylko do ustalonej kwoty.
- Kiedy przekazuje sprawę. Jeśli klient wspomni o prawniku, rezygnacji albo skardze na konkretną osobę, agent przekazuje sprawę kierownikowi zespołu i niczego nie pisze.
Zestaw guardrails dla jednego agenta
Tak może wyglądać pełny zestaw dla agenta, który pisze szkice odpowiedzi na prośby klientów.
- Dostaje tylko prośby, które wpłynęły przez formularz kontaktowy.
- Czyta zamówienia i wcześniejsze prośby tego klienta oraz twoje teksty pomocy. Nic więcej.
- Pisze szkic. Nie może wysyłać.
- Szkic musi wskazywać tekst pomocy albo zamówienie, na którym się opiera.
- Nigdy nie obiecuje terminu, zwrotu ani zmiany ceny. Tam, gdzie jest to potrzebne, zostawia oznaczoną lukę dla człowieka.
- Jeśli nie potrafi odpowiedzieć na podstawie tego, co przeczytał, mówi o tym i przekazuje prośbę dalej.
Sześć zasad i każdą da się sprawdzić. Żadna nie prosi agenta, żeby "był ostrożny".
Jak napisać guardrail, który działa
- Da się go sprawdzić odpowiedzią tak lub nie. "Zwroty powyżej 100 euro idą do finansów" da się sprawdzić. "Zwroty rozpatruj z rozsądkiem" nie.
- Mówi, co dzieje się dalej. Stop, zapytaj albo przekaż wskazanej roli. Zasada, która tylko blokuje, zostawia pracę leżącą odłogiem.
- Ma uzasadnienie. Każda zasada powinna wynikać z pomyłki, która się zdarzyła, albo takiej, którą wyraźnie potrafisz sobie wyobrazić.
- Ktoś się nią opiekuje. Limity i listy się starzeją. Jedna osoba utrzymuje je na bieżąco.
Ile guardrails wystarczy?
Zacznij ostro i luzuj krok po kroku, gdy agent się sprawdza. Przy zbyt małej liczbie guardrails jedno złe uruchomienie wyrządza szkody. Przy zbyt dużej agent przekazuje wszystko dalej, a twój zespół ma dawną ilość pracy plus kolejkę. Proporcje są dobre, gdy przekazania stanowią mały ułamek pracy, a większość z nich okazuje się uzasadniona.
Jak robi to Worknano
W Worknano to, do czego agent ma dostęp, wynika z dwóch źródeł: narzędzi, które mu dasz, i roli osoby, która pyta. Zmiany w rekordach pojawiają się jako podgląd do potwierdzenia. Przy limitach zależnych od kwoty łańcuchy akceptacji mogą zawierać krok, na przykład akceptację finansów dopiero powyżej wybranej przez ciebie kwoty. Warunki w workflow decydują, które rekordy w ogóle trafiają do agenta.
- Role i uprawnienia: co każda rola może widzieć i robić
- Approvals: łańcuchy, warunki i eskalacja
- Workflows: warunki przed krokiem z agentem
Załóż darmowy workspace i ustaw pierwsze limity dla własnego agenta.