Przejdź do treści

Bezpieczeństwo agentów AI z dostępem do poczty, CRM i plików

Agent, który czyta pocztę, zmienia rekordy w CRM i wysyła pliki, ma w firmie uprawnienia jak pracownik, ale nie zna kontekstu i da się go oszukać tekstem. Pokazuję, jak ograniczam szkody, gdy model się pomyli albo ktoś nim pokieruje.

Autor: Szymon Łakomy. Aktualizacja:

Dwie listy OWASP, na których opieram przegląd

Projekt OWASP poświęcony generatywnej AI publikuje między innymi dwie listy ryzyk. Lista Top 10 dla aplikacji z modelami językowymi dotyczy modelu i aplikacji wokół niego. Lista Top 10 dla aplikacji agentowych, opublikowana w grudniu 2025, opisuje ryzyka agentów, które planują i działają za pomocą narzędzi. Jej dziesięć kategorii w realiach małej firmy wygląda tak:

KategoriaCo to znaczy w małej firmie
ASI01 Agent Goal Hijackpolecenie ukryte w mailu, pliku albo na stronie zmienia cel agenta
ASI02 Tool Misuse and Exploitationagent używa dozwolonego narzędzia w szkodliwy sposób, na przykład wysyła ofertę do całej listy kontaktów
ASI03 Identity and Privilege Abuseagent działa na koncie administratora i może więcej, niż wymaga zadanie
ASI04 Agentic Supply Chain Vulnerabilitiespodłączony serwer MCP, wtyczka albo gotowy szablon zawiera błąd lub złośliwy kod
ASI05 Unexpected Code Executionagent tworzy i uruchamia kod, który robi coś innego, niż zakładano
ASI06 Memory and Context Poisoningfałszywa informacja trafia do pamięci agenta albo bazy wiedzy i wpływa na kolejne sprawy
ASI07 Insecure Inter-Agent Communicationagenci przekazują sobie zadania bez sprawdzenia, kto jest nadawcą
ASI08 Cascading Failuresbłąd w jednym kroku przechodzi do kolejnych systemów, zanim ktoś go zauważy
ASI09 Human-Agent Trust Exploitationczłowiek zatwierdza propozycję agenta, bo brzmi pewnie, i nie sprawdza szczegółów
ASI10 Rogue Agentsagent działa poza ustalonym zadaniem i trzeba go szybko zatrzymać

Nazwy kategorii w brzmieniu z listy OWASP. Opisy to moje przełożenie na realia małej firmy, a nie definicje OWASP.

ASI07 dotyczy głównie systemów wieloagentowych. Przy jednym agencie do poczty czy CRM zaczynam od ASI02, ASI03 i ASI09.

Kategorie z listy dla modeli oznaczam numerami z wydania 2025, na przykład LLM06:2025, bo pod nimi OWASP opisuje ryzyka na stronach podanych w źródłach. We wrześniu 2026 OWASP opublikował nowe wydanie tej listy, ze zmienioną kolejnością i odniesieniami do listy agentowej, a według komunikatu o tym wydaniu nadmierna autonomia awansowała na trzecie miejsce. W 2026 OWASP wydaje też kwartalne przeglądy prawdziwych incydentów, a w raporcie za pierwszy kwartał przypisał je do kategorii z obu list.

Jak zabezpieczyć agenta AI, który ma dostęp do poczty, CRM i plików?

Polecenia ukryte w treści, którą czyta agent (LLM01:2025 na liście dla modeli, ASI01 na liście agentowej), opisuję na stronie prompt injection. Tu zbieram zabezpieczenia, które ograniczają szkody niezależnie od tego, czy model dał się oszukać, czy się pomylił:

  • Osobne konto agenta (ASI03). Własne konto albo klucz z zakresem do jednej skrzynki, folderu czy obiektu w CRM, który da się unieważnić bez blokowania ludzi.
  • Sekrety poza instrukcją (LLM07:2025). Hasła i klucze API trzyma narzędzie, w którym działa agent, a nie treść instrukcji dla modelu. Instrukcję piszę tak, jakby kiedyś miała wyciec.
  • Kontrola odpowiedzi modelu (LLM05:2025). Wynik modelu traktuję jak dane od nieznajomego: sprawdzam format, porównuję kwoty i adresy z systemem i nie wstawiam go bez oczyszczenia do zapytań do bazy ani do kodu strony.
  • Limity kosztów i kroków (LLM10:2025). Maksymalna liczba kroków na sprawę, limit tokenów na wywołanie i miesięczny limit wydatków na koncie u dostawcy, jeśli jego panel na to pozwala. Przewidywany koszt policzysz w kalkulatorze kosztów API AI.
  • Pamięć i baza wiedzy pod kontrolą (ASI06). Agent nie dopisuje sam treści z maili klientów do bazy wiedzy, zmiany zatwierdza człowiek, a pamięć rozmowy jest osobna dla każdego klienta.
  • Akceptacja, która pokazuje szczegóły (ASI09). Zatwierdzający widzi odbiorcę, kwotę i załącznik, a nie tylko streszczenie agenta, które bywa nieścisłe, o czym piszę przy halucynacjach AI.
  • Wyłącznik awaryjny (ASI08, ASI10). Jedno miejsce, w którym zatrzymuję agenta albo odbieram mu prawo zapisu, a sprawy w toku wracają do kolejki ręcznej.

Spreparowane sprawy, na których sprawdzam te zabezpieczenia, są częścią zestawu ze strony testowanie agentów AI.

Nadmierna autonomia: błąd, który powstaje już w projekcie

Ryzyko LLM06:2025 Excessive Agency, czyli nadmierna autonomia, ma według opisu OWASP trzy źródła: za dużo funkcji, za szerokie uprawnienia i za dużo samodzielności. W małej firmie wyglądają tak:

Za dużo funkcji

Agent, który ma tylko przygotowywać szkice, dostaje pełny dostęp do wysyłki z poczty, bo tak było szybciej podłączyć skrzynkę.

Za szerokie uprawnienia

Klucz do CRM pozwala usuwać kontakty, choć agent ma tylko dopisywać notatki.

Za dużo samodzielności

Zwrot pieniędzy albo zmiana zamówienia idzie od razu, bez zatwierdzenia.

Poprawka jest tania, jeśli robi się ją przed startem: węższe narzędzie (szkic zamiast wysyłki, jak przy agencie AI do skrzynki mailowej, notatka zamiast edycji rekordu), klucz z mniejszym zakresem i krok akceptacji. Po starcie wymaga przebudowy przepływów, do których zespół już przywykł.

Jak sprawdzam cudzy serwer MCP albo wtyczkę przed podłączeniem?

Serwer MCP albo wtyczka od innego autora daje agentowi nowe narzędzia, a razem z nimi cudzy kod. Specyfikacja Model Context Protocol w wersji z 28 lipca 2026 mówi, że użytkownik ma świadomie zgadzać się na dostęp do danych i działania, a narzędzia oznaczają wykonywanie dowolnego kodu i wymagają ostrożności. Na listach OWASP to ryzyko łańcucha dostaw (LLM03:2025 i ASI04), więc zanim taki serwer podłączę:

  1. sprawdzam autora, repozytorium i to, czy ktoś je utrzymuje,
  2. wyłączam narzędzia, których zadanie nie wymaga,
  3. ustawiam token z najmniejszym zakresem, na start tylko do odczytu,
  4. przypinam wersję, żeby aktualizacja nie zmieniła narzędzi bez mojej wiedzy,
  5. sprawdzam, czy każde wywołanie trafia do logu z parametrami.

Przy własnym serwerze MCP albo przepływach n8n wystawionych przez MCP pytanie o autora odpada, a reszta listy zostaje.

Przegląd istniejącego agenta

Jeśli agent już działa, zaczynam od spisu: narzędzia, konta, kto zatwierdza działania i gdzie są zapisy przebiegu. Potem sprawdzam listę kontrolną i uruchamiam spreparowane sprawy. Wynikiem jest lista poprawek od najważniejszej, z podziałem na szybkie i wymagające przebudowy przepływu.

Nie obiecuję, że po przeglądzie agent będzie odporny na każdy atak. Celem jest to, żeby oszukany albo pomylony agent nie miał czym wyrządzić poważnej szkody, a każde jego działanie dało się odtworzyć z logu. Przy nowym wdrożeniu projekt uprawnień jest w cenie: prosty agent od około 1200 zł netto, system wieloagentowy od około 4500 zł netto. Przegląd agenta zbudowanego przez kogoś innego wyceniam po rozmowie. Zasady dla zespołu opisuje strona polityka korzystania z AI w firmie.

Źródła

Opis opieram na poniższych źródłach. Przepisy, dokumentacja producentów i warunki usług się zmieniają, więc szczegóły warto sprawdzić u źródła:

Najczęstsze pytania

Gdzie trzymać klucze API, z których korzysta agent?

W magazynie danych uwierzytelniających narzędzia, w którym działa agent, na przykład w n8n, albo w zmiennych środowiskowych serwera. Nigdy w instrukcji, arkuszu ani mailu. Klucz wymieniam po odejściu osoby albo wykonawcy, który go znał. Hasła ludzi trzyma się osobno, w menedżerze haseł dla firmy.

Czy agent może ujawnić klientowi dane innego klienta?

Może, jeśli ma do nich dostęp w tej samej rozmowie, w pamięci albo w bazie wiedzy bez filtrów. Dlatego wyszukiwanie w dokumentach ograniczam do tego, co może zobaczyć dana osoba albo dany klient. Zasady dla ludzi opisuje strona czy można wklejać dane firmy do ChatGPT.

Czy agent w gotowej platformie jest bezpieczniejszy niż napisany w kodzie?

Platforma może dać gotowy zapis przebiegów i zarządzanie dostępami, ale nie zaprojektuje uprawnień za Ciebie. Agent w n8n, Copilot Studio czy kodzie jest tak ryzykowny, jak narzędzia i konta, które dostał. Drogi budowy porównuje strona jak zbudować agenta AI.

Jak długo przechowywać logi agenta?

Logi zawierają treść spraw, często z danymi osobowymi, więc okres przechowywania i dostęp ustala się jak dla innych danych firmy. Trzymam je tak długo, żeby dało się wyjaśnić reklamację, i nie dłużej. To nie jest porada prawna, szczegóły ustal z osobą odpowiedzialną za RODO.

Powiązane strony

Twój agent ma dostęp do poczty albo CRM?

Wypisz narzędzia i konta, z których korzysta. Sprawdzę je według listy kontrolnej z tej strony i odeślę poprawki uporządkowane od najważniejszej.