Agent AI w firmie to program oparty na modelu językowym, który nie tylko odpowiada, ale sam wykonuje kolejne kroki w systemach: odczytuje dane, wybiera działanie i coś zapisuje. Kontrolę nad nim utrzymujesz podobnie jak nad nową osobą z dostępem do systemów. Dajesz wąski zakres zadań i ograniczone uprawnienia, wymagasz potwierdzenia człowieka przy operacjach nieodwracalnych i prowadzisz dziennik wszystkiego, co agent zrobił.

Czym różni się agent AI od asystenta AI?

Asystent działa w rytmie pytanie i odpowiedź. Pytasz o zaległe zamówienia, dostajesz listę, a decyzja i działanie zostają po Twojej stronie. Jeśli asystent się pomyli, widzisz to od razu, bo czytasz odpowiedź.

Agent dostaje cel, na przykład „uporządkuj zgłoszenia z nocy”, i sam planuje kroki. Wywołuje narzędzia w systemach jedno po drugim, ocenia wynik i idzie dalej, często bez człowieka po drodze. Pomyłka w trzecim kroku przenosi się na czwarty i piąty. Dlatego przy agencie pytasz nie tylko o to, czy odpowiada poprawnie, ale też o to, co może zrobić, zanim ktokolwiek to zauważy.

Technicznie oba korzystają z tych samych połączeń z systemami, często przez serwer MCP, który udostępnia narzędzia. Model decyduje, kiedy wywołać narzędzie, a serwer pilnuje uprawnień. Agent dostaje po prostu więcej narzędzi do zapisu i więcej samodzielności.

Jak utrzymać kontrolę nad agentem AI w firmie

Siedem zasad, które stosuje się łącznie.

  1. Wąski zakres zadań. Jeden agent, jeden proces. Agent do zgłoszeń serwisowych nie potrzebuje dostępu do faktur.
  2. Uprawnienia na miarę. Osobne konto techniczne z prawami tylko do tego, czego wymaga zadanie. Nigdy konto administratora i nigdy konto pożyczone od pracownika.
  3. Potwierdzenie człowieka. Operacje nieodwracalne i finansowe agent przygotowuje, a człowiek zatwierdza: usunięcie danych, wysyłka do klienta, przelew, korekta dokumentu, zmiana cen.
  4. Limity. Ile rekordów w jednym przebiegu, ile wiadomości na godzinę, jaka największa wartość dokumentu. Limit ustawiony w systemie, a nie w poleceniu dla modelu.
  5. Dziennik działań. Każde wywołanie narzędzia: kiedy, z jakimi parametrami, z jakim skutkiem. Zapisywany tam, gdzie agent nie ma prawa zapisu.
  6. Natychmiastowe wyłączenie. Wskazana osoba jednym ruchem zatrzymuje agenta i odbiera mu dostęp. Sprawdź, czy to działa, zanim będzie potrzebne.
  7. Okres próbny na danych testowych. Najpierw kopia systemu, potem tryb samych propozycji na danych prawdziwych, na końcu samodzielność w wąskim zakresie.

Zakaz wpisany w polecenie dla modelu to prośba. Zakaz ustawiony w uprawnieniach systemu to granica.

Jest jeszcze jedno ryzyko. Agent czyta treści z zewnątrz, na przykład e-maile albo zgłoszenia klientów, a ktoś może w takiej treści umieścić tekst udający polecenie. Agent z wąskimi uprawnieniami i obowiązkowym potwierdzeniem wyrządzi wtedy niewiele szkód. Agent z kontem administratora może wyrządzić duże. O zabezpieczeniach samego połączenia piszemy w poradniku bezpieczeństwo serwera MCP.

Jakie zadania nadają się dla agenta AI?

Dobre zadania są powtarzalne, mają jasne reguły, a ich skutki da się cofnąć albo sprawdzić, zanim pójdą dalej.

  • Porządkowanie zgłoszeń. Agent czyta nowe zgłoszenia, nadaje kategorię i priorytet, łączy duplikaty, przypisuje do działu. Błędną kategorię poprawia się w chwilę.
  • Szkice dokumentów. Agent przygotowuje ofertę, odpowiedź na reklamację albo zamówienie do dostawcy na podstawie danych z systemu. Wysyła człowiek.
  • Uzgadnianie danych między systemami. Agent porównuje kartoteki kontrahentów w CRM i w programie księgowym, wskazuje różnice i proponuje poprawki. Typowa sytuacja: ten sam klient ma dwa różne adresy w dwóch systemach i nikt nie wie, który jest aktualny.

Jakie zadania się nie nadają

  • Przelewy i zatwierdzanie płatności bez udziału człowieka.
  • Usuwanie danych i masowe operacje na dokumentach księgowych.
  • Decyzje dotyczące ludzi: zatrudnienie, ocena pracownika, odmowa klientowi.
  • Samodzielna korespondencja z klientem w sprawach spornych.
  • Zmiany konfiguracji systemów i uprawnień.

Wspólna cecha: skutku nie da się łatwo cofnąć albo odpowiedzialność musi ponosić konkretna osoba. Agent może w tych obszarach przygotować materiał, ale nie stawia ostatniego podpisu.

Od czego zacząć

Wybierz jedno zadanie z listy nadających się i opisz je tak, jak opisuje się pracę nowej osobie w zespole: co jest wejściem, co wynikiem, kiedy agent ma przerwać i zapytać. Uruchom go na kopii danych, potem w trybie propozycji. Przez pierwsze tygodnie ktoś codziennie przegląda dziennik. Samodzielność rozszerzaj dopiero wtedy, gdy liczba poprawek po agencie spadnie do poziomu, który akceptujesz u człowieka.

Jeśli na razie chcesz tylko pytać o dane, bez działań w systemach, zobacz artykuł o asystencie AI do ERP i magazynu.

Jak pomagamy wdrożyć agenta bezpiecznie

Takie rozwiązania budujemy w ramach wdrożeń AI w firmie: ze środowiskiem testowym oddzielonym od produkcji, uprawnieniami wynikającymi z ról i przeglądem przed startem. Połączenia, przez które agent sięga do ERP, CRM czy systemu zgłoszeń, powstają w ramach integracji systemów i API, tak żeby limity i dziennik były po stronie systemu, a nie modelu.