Agent AI w firmie to program oparty na modelu językowym, który nie tylko odpowiada, ale sam wykonuje kolejne kroki w systemach: odczytuje dane, wybiera działanie i coś zapisuje. Kontrolę nad nim utrzymujesz podobnie jak nad nową osobą z dostępem do systemów. Dajesz wąski zakres zadań i ograniczone uprawnienia, wymagasz potwierdzenia człowieka przy operacjach nieodwracalnych i prowadzisz dziennik wszystkiego, co agent zrobił.
Czym różni się agent AI od asystenta AI?
Asystent działa w rytmie pytanie i odpowiedź. Pytasz o zaległe zamówienia, dostajesz listę, a decyzja i działanie zostają po Twojej stronie. Jeśli asystent się pomyli, widzisz to od razu, bo czytasz odpowiedź.
Agent dostaje cel, na przykład „uporządkuj zgłoszenia z nocy”, i sam planuje kroki. Wywołuje narzędzia w systemach jedno po drugim, ocenia wynik i idzie dalej, często bez człowieka po drodze. Pomyłka w trzecim kroku przenosi się na czwarty i piąty. Dlatego przy agencie pytasz nie tylko o to, czy odpowiada poprawnie, ale też o to, co może zrobić, zanim ktokolwiek to zauważy.
Technicznie oba korzystają z tych samych połączeń z systemami, często przez serwer MCP, który udostępnia narzędzia. Model decyduje, kiedy wywołać narzędzie, a serwer pilnuje uprawnień. Agent dostaje po prostu więcej narzędzi do zapisu i więcej samodzielności.
Jak utrzymać kontrolę nad agentem AI w firmie
Siedem zasad, które stosuje się łącznie.
- Wąski zakres zadań. Jeden agent, jeden proces. Agent do zgłoszeń serwisowych nie potrzebuje dostępu do faktur.
- Uprawnienia na miarę. Osobne konto techniczne z prawami tylko do tego, czego wymaga zadanie. Nigdy konto administratora i nigdy konto pożyczone od pracownika.
- Potwierdzenie człowieka. Operacje nieodwracalne i finansowe agent przygotowuje, a człowiek zatwierdza: usunięcie danych, wysyłka do klienta, przelew, korekta dokumentu, zmiana cen.
- Limity. Ile rekordów w jednym przebiegu, ile wiadomości na godzinę, jaka największa wartość dokumentu. Limit ustawiony w systemie, a nie w poleceniu dla modelu.
- Dziennik działań. Każde wywołanie narzędzia: kiedy, z jakimi parametrami, z jakim skutkiem. Zapisywany tam, gdzie agent nie ma prawa zapisu.
- Natychmiastowe wyłączenie. Wskazana osoba jednym ruchem zatrzymuje agenta i odbiera mu dostęp. Sprawdź, czy to działa, zanim będzie potrzebne.
- Okres próbny na danych testowych. Najpierw kopia systemu, potem tryb samych propozycji na danych prawdziwych, na końcu samodzielność w wąskim zakresie.
Zakaz wpisany w polecenie dla modelu to prośba. Zakaz ustawiony w uprawnieniach systemu to granica.
Jest jeszcze jedno ryzyko. Agent czyta treści z zewnątrz, na przykład e-maile albo zgłoszenia klientów, a ktoś może w takiej treści umieścić tekst udający polecenie. Agent z wąskimi uprawnieniami i obowiązkowym potwierdzeniem wyrządzi wtedy niewiele szkód. Agent z kontem administratora może wyrządzić duże. O zabezpieczeniach samego połączenia piszemy w poradniku bezpieczeństwo serwera MCP.
Jakie zadania nadają się dla agenta AI?
Dobre zadania są powtarzalne, mają jasne reguły, a ich skutki da się cofnąć albo sprawdzić, zanim pójdą dalej.
- Porządkowanie zgłoszeń. Agent czyta nowe zgłoszenia, nadaje kategorię i priorytet, łączy duplikaty, przypisuje do działu. Błędną kategorię poprawia się w chwilę.
- Szkice dokumentów. Agent przygotowuje ofertę, odpowiedź na reklamację albo zamówienie do dostawcy na podstawie danych z systemu. Wysyła człowiek.
- Uzgadnianie danych między systemami. Agent porównuje kartoteki kontrahentów w CRM i w programie księgowym, wskazuje różnice i proponuje poprawki. Typowa sytuacja: ten sam klient ma dwa różne adresy w dwóch systemach i nikt nie wie, który jest aktualny.
Jakie zadania się nie nadają
- Przelewy i zatwierdzanie płatności bez udziału człowieka.
- Usuwanie danych i masowe operacje na dokumentach księgowych.
- Decyzje dotyczące ludzi: zatrudnienie, ocena pracownika, odmowa klientowi.
- Samodzielna korespondencja z klientem w sprawach spornych.
- Zmiany konfiguracji systemów i uprawnień.
Wspólna cecha: skutku nie da się łatwo cofnąć albo odpowiedzialność musi ponosić konkretna osoba. Agent może w tych obszarach przygotować materiał, ale nie stawia ostatniego podpisu.
Od czego zacząć
Wybierz jedno zadanie z listy nadających się i opisz je tak, jak opisuje się pracę nowej osobie w zespole: co jest wejściem, co wynikiem, kiedy agent ma przerwać i zapytać. Uruchom go na kopii danych, potem w trybie propozycji. Przez pierwsze tygodnie ktoś codziennie przegląda dziennik. Samodzielność rozszerzaj dopiero wtedy, gdy liczba poprawek po agencie spadnie do poziomu, który akceptujesz u człowieka.
Jeśli na razie chcesz tylko pytać o dane, bez działań w systemach, zobacz artykuł o asystencie AI do ERP i magazynu.
Jak pomagamy wdrożyć agenta bezpiecznie
Takie rozwiązania budujemy w ramach wdrożeń AI w firmie: ze środowiskiem testowym oddzielonym od produkcji, uprawnieniami wynikającymi z ról i przeglądem przed startem. Połączenia, przez które agent sięga do ERP, CRM czy systemu zgłoszeń, powstają w ramach integracji systemów i API, tak żeby limity i dziennik były po stronie systemu, a nie modelu.