Dlaczego agenci AI są tak wolni i co ich przyspiesza?
Agenci AI są wolni, bo nie odpowiadają za jednym razem. Agent AI to program, który za pomocą AI wykonuje za ciebie zadanie, i pracuje w rundach: czyta, decyduje, czegoś szuka i zaczyna od nowa. Każda runda trwa kilka sekund. Większość czekania znika, gdy agent ma mniej do czytania i jaśniejsze zadanie.
Porównanie z biura
Wyobraź sobie praktykanta pierwszego dnia. Mówisz: "Z którymi klientami nie kontaktowaliśmy się od dwóch tygodni? Napisz do każdego krótką wiadomość." Praktykant idzie do szafy z aktami, wraca, czyta swoje notatki od początku, znowu idzie do szafy i tak dalej. Otwarcie szafy trwa chwilę. Czas zabierają chodzenie, ponowne czytanie i pisanie.
Agent działa tak samo. Sprawdzenie czegoś w twoich danych jest szybkie. Czytanie i pisanie jest wolne, a agent robi jedno i drugie od nowa w każdej rundzie.
Gdzie ucieka czas: jedna prośba, krok po kroku
Weźmy tę samą prośbę o klientach bez kontaktu. Oto, co dzieje się, zanim zobaczysz odpowiedź.
- Agent czyta swoje instrukcje i twoje pytanie.
- Postanawia sprawdzić otwarte deale i prosi o nie system klientów.
- Lista wraca. To zwykle najszybsza część.
- Agent czyta listę i widzi, że potrzebuje ostatniego kontaktu dla każdego deala. Sprawdza je, często jeden po drugim.
- Czyta wszystko jeszcze raz: instrukcje, pytanie i wszystkie dotychczasowe wyniki.
- Pisze wiadomości, słowo po słowie.
Twoje dane dostały kilka szybkich pytań. AI zostało wywołane cztery, pięć razy i za każdym razem miało więcej do czytania. To wzorzec stojący za prawie każdym wolnym agentem: wiele rund i dużo tekstu w każdej.
Cztery częste przyczyny
- Niejasne zadanie. "Znajdź deal, który mam na myśli" każe agentowi szukać na oślep. Każde dodatkowe zajrzenie kosztuje całą rundę.
- Za dużo do czytania. Całe dokumenty i długie historie są czytane od nowa w każdej rundzie.
- Długa odpowiedź. Pisanie to najwolniejsza rzecz, jaką robi AI. Strona tekstu zajmuje znacznie więcej czasu niż "tak" albo "nie" z jednym zdaniem uzasadnienia.
- Mocniejsze AI, niż potrzebuje zadanie. Najbardziej zaawansowane modele AI odpowiadają dłużej. Do prostego sprawdzenia rzadko są potrzebne.
Co przyspiesza agenta
- Powiedz dokładnie, gdzie zacząć. "Ten deal" jest szybsze niż "jeden z naszych deali".
- Daj mu fragment, nie plik. Trzy istotne akapity czyta się szybciej niż trzydzieści stron.
- Poproś o krótką odpowiedź. Kategoria, data i jedno zdanie piszą się szybko.
- Do prostych zadań użyj szybkiego modelu AI. Mocny zostaw dla zadań z wieloma krokami.
- Zabierz agentowi stałe kroki. Wszystko, co zawsze jest takie samo, należy do prostej reguły, która działa od razu.
Kiedy wolno nie ma znaczenia
Szybkość się liczy, gdy człowiek siedzi przed czatem i czeka. Znacznie mniej, gdy agent pracuje w tle. Jeśli nowe zapytanie jest posortowane minutę po tym, jak przyszło, nikt tej minuty nie zauważy. Najpierw więc zapytaj, kto czeka. Długie zadania, takie jak przejście przez całą listę klientów, mogą działać nocą albo uruchamiać się same, gdy coś się zmieni. Wynik po prostu jest, gdy ludzie go potrzebują.
Jak robi to Worknano
W Worknano agenci i asystent używają wyszukiwania semantycznego, które znajduje tekst według jego znaczenia. Czytają tylko te fragmenty, które mają znaczenie, więc odpowiedzi przychodzą szybciej. Każdy agent ma własne ustawienie modelu: szybki pasuje do krótkich sprawdzeń, zrównoważony do zadań z kilkoma krokami. Agenci mogą też uruchamiać się sami, gdy rekord się zmieni, lub według harmonogramu, więc dłuższe zadania nikogo nie każą czekać. Log audytu zapisuje, ile trwało każde uruchomienie agenta, dzięki czemu widzisz, którego ulepszyć.
- Wyszukiwanie semantyczne w całej twojej pracy
- Agenci AI w Worknano
- Zbuduj własnego agenta: model, narzędzia i instrukcje
Załóż darmowy workspace i zmierz czas pracy agenta na swoich rekordach.