Czy agenci AI są deterministyczni?
Agenci AI nie są deterministyczni. Deterministyczny znaczy, że te same dane wejściowe zawsze dają ten sam wynik, jak w kalkulatorze. Agent AI, czyli program, który za pomocą AI wykonuje zadania, jest za to probabilistyczny: wybiera spośród kilku prawdopodobnych odpowiedzi, więc dwa uruchomienia tej samej prośby mogą się trochę różnić. Możesz to ograniczyć i możesz trzymać to z dala od kroków, w których by zaszkodziło.
Dlaczego to samo pytanie dostaje dwie odpowiedzi?
Poproś kolegę, żeby napisał ten sam mail w poniedziałek i jeszcze raz w piątek. Oba maile będą mówić to samo innymi słowami. AI zachowuje się podobnie. Nie wyszukuje odpowiedzi. Buduje ją słowo po słowie i przy każdym słowie wybiera jedno z kilku pasujących.
Ustawienie zwane temperaturą kontroluje, jak swobodnie wybiera. Wysoka wartość daje żywszy, bardziej zróżnicowany tekst. Niska utrzymuje AI blisko najbardziej prawdopodobnego sformułowania.
U agenta ten efekt może narastać, bo agent pracuje w kilku krokach. Mała różnica na początku zmienia to, co przeczyta dalej.
Czy niska temperatura to rozwiązuje?
Agent staje się dużo bardziej spójny. Nie gwarantuje to jednak identycznych wyników. A spójny nie znaczy poprawny: agent może za każdym razem dawać tę samą złą odpowiedź. Spójność i tak warto mieć, bo błąd, który się powtarza, łatwo znaleźć i naprawić.
Gdzie zmienność jest w porządku, a gdzie nie
- W porządku: sformułowania maili i streszczeń, pomysły, alternatywne wersje zdań.
- W porządku, jeśli ktoś sprawdza: sortowanie zapytań na kategorie, odczytywanie wartości z dokumentu.
- Niedopuszczalne: ceny, sumy, podatek, daty w umowach, kto dostaje dostęp, czy płatność zostanie wysłana.
Przykład: jedna wycena, podzielona na dwie części
Klient pisze: "Chcielibyśmy wycenę na 40 licencji. Jesteśmy z wami od trzech lat." Jeśli agent wykona całe zadanie sam, rabat może się różnić z dnia na dzień. Podziel więc zadanie.
- Czytanie maila: agent. Odnotowuje produkt, ilość i klienta.
- Rabat: stała reguła. Tabela mówi, ile są warte 40 licencji i trzy lata. Jutro powie to samo.
- Suma: obliczenie, nigdy AI.
- Mail przewodni: agent. Dwa różne szkice nie są tu problemem.
- Wysłanie: człowiek czyta wycenę i potwierdza.
Klient dostaje osobistego maila i cenę, którą każdy w firmie potrafi wyjaśnić. Agent wykonał dwa kroki, które wymagają języka. Wszystko, co za każdym razem musi być takie samo, nigdy nie zostało zdane na przypadek.
Cztery sposoby, żeby agent był bardziej spójny
- Obniż temperaturę przy sprawdzaniu i sortowaniu.
- Ustal formę odpowiedzi. "Wybierz jedną z tych czterech kategorii" zostawia mało miejsca na błądzenie.
- Dawaj przykłady dla przypadków granicznych, żeby agent rozstrzygał je za każdym razem tak samo.
- Zadanie niech będzie małe. Jedna decyzja na agenta zmienia się mniej niż pięć.
Co to znaczy dla małej firmy
Nie pytaj, czy agent jest deterministyczny. Pytaj, które części zadania muszą być. Wpisz je w reguły i obliczenia, a agentowi daj czytanie i pisanie. Wtedy zmienność jest mile widziana tam, gdzie chcesz ludzkiego rysu, i nieobecna tam, gdzie potrzebujesz pewności.
Jak robi to Worknano
Worknano pozwala trzymać część stałą i elastyczną w jednym procesie. Workflow to zestaw kroków zdefiniowanych z góry: co go uruchamia, na jakich warunkach i co się potem dzieje. Agent jest jednym krokiem w nim. Każdy agent ma własną temperaturę, niższą dla stabilnych odpowiedzi i wyższą dla większej różnorodności. Agentowi możesz też dać przykłady, które poprowadzą go w przypadkach granicznych.
- Workflows: wyzwalacze, warunki i akcje
- Zbuduj własnego agenta: instrukcje, model i temperatura
- Agenci AI i ich typy wyników
Załóż darmowy workspace i umieść regułę oraz agenta w tym samym workflow.