Worknano

Czy agenci AI mogą wymknąć się spod kontroli?

Updated 2026-11-15

Czy agenci AI mogą wymknąć się spod kontroli? Nie jak w filmach. Agent AI to program, który za pomocą AI wykonuje za ciebie zadania. Nie ma własnych pragnień i niczego nie robi między zadaniami. Ale może źle zrozumieć zadanie i zrobić coś niewłaściwego. Jak duża będzie szkoda, zależy od tego, do czego agent ma dostęp, a o tym decydujesz ty.

Jak "wymknięcie się spod kontroli" wygląda w prawdziwej firmie

Realistyczne przypadki są zwyczajne. Agent próbuje wykonać swoje zadanie i robi je źle.

Pomyśl o gorliwym nowym asystencie pierwszego dnia. Chce dobrze. Ryzykiem nie jest zła wola. Ryzykiem jest nieporozumienie połączone z kluczami do wszystkich pokoi.

Trzy rzeczy, które muszą się zejść

Każdy z tych przypadków wymaga trzech rzeczy naraz:

Zabierz jedną z nich, a incydent zmniejsza się do błędnej sugestii, którą ktoś odrzuci. Dostęp jest z tych trzech najłatwiejszy do kontrolowania, bo nie zależy od tego, jak AI zachowuje się danego dnia.

Ćwiczenie "najgorszy dzień"

Zanim agent zacznie pracę, poświęć dziesięć minut i odpowiedz na piśmie na pięć pytań.

  1. Co ten agent może czytać?
  2. Co może zmieniać, wysyłać lub usuwać?
  3. Załóżmy, że pomylił się we wszystkim naraz. Jaka byłaby szkoda?
  4. Ile z tego dałoby się cofnąć do jutra rana?
  5. Jak to zauważysz i kto może to zatrzymać?

Jeśli odpowiedź na pytanie trzecie cię niepokoi, nie szukaj lepszych sformułowań w instrukcjach. Skracaj listy z pytań pierwszego i drugiego, aż najgorszy dzień będzie tylko kiepskim popołudniem.

Jak utrzymać mały zasięg

Czego agent nie potrafi

Warto znać granice tego strachu. Agent nie może nadać sobie uprawnień, których nie dostał. Nie może użyć narzędzia, którego nikt nie podłączył. Nie uruchamia się sam: uruchamia go człowiek, harmonogram albo zdarzenie. Nie trzyma ukrytego planu od jednego zadania do następnego. Wszystko, co robi, przechodzi przez dostęp, który ustawiłeś. Dlatego "wymknięcie się spod kontroli" to znacznie bardziej kwestia konfiguracji niż kwestia AI.

Jak robi to Worknano

W Worknano agent może czytać tylko to, co może czytać zalogowany użytkownik. Gdy chce coś zmienić, najpierw pokazuje ci zmianę i czeka na twoje potwierdzenie. Nie może obejść uprawnień. Role określają, co każda osoba może widzieć i robić, aż do pojedynczych pól i wierszy, a agent pozostaje w roli tego, kto go o coś poprosił. Każdy agent dostaje też tylko te narzędzia, których potrzebuje.

Załóż darmowy workspace i zobacz, jak daleko sięga agent z twoją rolą.