Aplikacja AI na zamówienie, w której model jest częścią procesu firmy
Prototyp z modelem językowym da się złożyć w jeden wieczór. Aplikacja, na której zespół pracuje codziennie, potrzebuje kont, ról, historii i miejsca, w którym człowiek zatwierdza wynik. Opisuję, co buduję wokół modelu, żeby dało się na nim polegać.
Autor: Szymon Łakomy. Aktualizacja:
Aplikacja, funkcja czy agent: co wybrać?
Nowa aplikacja ma sens, gdy krok wykonywany przez model leży w środku procesu, a ludzie pracują na jego wyniku: przeglądają, poprawiają, zatwierdzają. Inne sytuacje opisuję osobno:
- jedna funkcja AI w programie, który już działa: integracja ChatGPT API z aplikacją firmową,
- praca w tle, bez ekranu, na przykład przenoszenie spraw między systemami: agenci AI,
- pytania do dokumentów firmy w oknie czatu: asystent AI na dokumentach.
Czym aplikacja AI różni się od prototypu?
| Element | Prototyp | Aplikacja |
|---|---|---|
| Akceptacja wyniku | wynik od razu trafia do bazy albo do klienta | kolejka: zatwierdź, popraw, odrzuć, z nazwiskiem osoby i godziną |
| Zapis | brak albo log na serwerze | przy każdej sprawie wejście, wynik modelu, wersja instrukcji, nazwa modelu i decyzja człowieka |
| Walidacja odpowiedzi | tekst modelu przekazywany dalej bez sprawdzenia | kontrola struktury i wartości przed zapisem do bazy |
| Koszty | jeden klucz API bez limitu | limit na użytkownika i na firmę, licznik w panelu administratora |
| Dostawca modelu | wywołania rozsiane po kodzie | jedno miejsce w kodzie, w którym wymieniasz model |
| Testy | kilka prób ręcznie | stały zestaw spraw uruchamiany przed każdym wydaniem |
Najwięcej pracy zajmuje kolejka akceptacji, czyli osobny ekran z filtrami, przypisaniem spraw do osób i podglądem dokumentu obok wyniku modelu. Poprawki ludzi zapisuję, bo pokazują, gdzie model myli się najczęściej. Jak przygotować zestaw spraw do testów, opisuję na stronie testowanie agentów AI, a dobór modelu na stronie wybór modelu AI.
Trzy przykłady, hipotetyczne
Klasyfikacja dokumentów z kolejką weryfikacji
Model przypisuje przychodzącym pismom rodzaj, kontrahenta i termin, a sprawy, przy których jest niepewny, trafiają na górę kolejki. Odczyt skanów opisuję na stronie OCR dokumentów.
Asystent ofert z historią wersji
Model układa szkic oferty z potrzeb klienta i opisów produktów, a ceny wstawia aplikacja z cennika w bazie. Każda wersja zostaje w historii z autorem zmian.
Odczyt zdjęć z protokołem
Model odczytuje numer seryjny i stan licznika ze zdjęcia, serwisant potwierdza wartości na ekranie, a aplikacja tworzy protokół w PDF.
Jak sprawdzić odpowiedź modelu przed zapisem do bazy?
OWASP w liście zagrożeń dla aplikacji z modelami językowymi opisuje niewłaściwą obsługę wyników (LLM05): odpowiedź modelu trafia dalej bez sprawdzenia i może zostać wykonana jako kod w przeglądarce albo zapytanie do bazy. Dlatego odpowiedź modelu przechodzi w aplikacji te same kontrole co dane z publicznego formularza:
- model zwraca ustalony format, a aplikacja sprawdza typy, wymagane pola i dozwolone wartości, zanim cokolwiek zapisze,
- kwoty, numery klientów i kody produktów porównuję z bazą, a wartość, której tam nie ma, oznaczam do sprawdzenia,
- tekst z modelu wyświetlam jako tekst, bez wykonywania HTML i skryptów,
- zapytania do bazy składa kod aplikacji z parametrami, nigdy nie wykonuję SQL napisanego przez model.
Zmyślone odpowiedzi ograniczają też źródła i wąski zakres zadania, o czym piszę na stronie halucynacje AI. Pozostałe zabezpieczenia, od uprawnień po logi, zbiera strona bezpieczeństwo agentów AI.
AI w produkcie SaaS: dane i koszty każdego klienta osobno
Gdy aplikację sprzedajesz wielu firmom w abonamencie, model pracuje na danych wszystkich klientów. Wtedy dochodzą trzy zasady:
- Izolacja także w wyszukiwaniu. Fragmenty dokumentów w bazie wektorowej mają identyfikator firmy, a wyszukiwanie zawsze po nim filtruje. Kontekst dla modelu składam wyłącznie z danych firmy, która pyta. Sam mechanizm wyjaśnia strona co to jest RAG.
- Koszt tokenów przypisany do klienta. Każde wywołanie zapisuję z identyfikatorem firmy i użytkownika. Narzędzia takie jak Langfuse liczą tokeny i koszt każdego wywołania, więc widać, który klient generuje największy rachunek.
- AI w wybranych planach. Funkcja AI z miesięcznym limitem w droższym planie chroni marżę, a po wyczerpaniu limitu użytkownik dostaje komunikat zamiast błędu. Sam abonament opisuję na stronie aplikacja SaaS na zamówienie.
Co mówią przepisy o aplikacjach z AI?
- Informacja o rozmowie z AI. Od 2 sierpnia 2026 osoba, która rozmawia z systemem AI, na przykład klient na czacie w aplikacji, musi wiedzieć, że odpowiada jej AI. W aplikacji to komunikat na początku rozmowy, a w narzędziach wewnętrznych dodatkowo oznaczam pola wypełnione przez model.
- Kto za to odpowiada. Obowiązek informacji ma dostawca systemu, a dostawcą może być Twoja firma, jeśli udostępnia aplikację pod własną nazwą. Podział ról w projekcie opisuje strona umowa na wdrożenie AI.
- Ocena ludzi to osobna kategoria. Systemy do selekcji kandydatów do pracy albo oceny zdolności kredytowej należą do wysokiego ryzyka, a wymogi dla nich zaczną obowiązywać 2 grudnia 2027. Takiej aplikacji nie planuję bez prawnika.
- Nadzór i kary. W Polsce organem nadzoru rynku jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, wskazana w ustawie z 3 lipca 2026 o systemach sztucznej inteligencji. Górne granice kar wyznacza AI Act. Za naruszenie obowiązków przejrzystości kara może sięgnąć 15 mln euro albo 3 procent rocznego światowego obrotu, zależnie od tego, która kwota jest wyższa. Dla małych i średnich firm, także startupów, liczy się niższa z nich.
Ile kosztuje aplikacja AI?
Nowa aplikacja z kontami, rolami, kolejką akceptacji i jednym krokiem wykonywanym przez model kosztuje od około 8000 zł netto. Funkcja AI dodana do programu, który już masz, zaczyna się od około 1200 zł netto. Większy moduł, na przykład kilka rodzajów dokumentów z osobnymi regułami, wyceniam po rozmowie. Za użycie modelu płacisz osobno, na swoim koncie u dostawcy. Koszt modelu przy Twojej liczbie spraw policzysz w kalkulatorze kosztów API AI, widełki dla agentów są na stronie ile kosztuje agent AI, a opcje z przetwarzaniem danych w Europie na stronie modele AI z danymi w UE.
Źródła
Opis opieram na poniższych źródłach. Przepisy, dokumentacja producentów i warunki usług się zmieniają, więc szczegóły warto sprawdzić u źródła:
- Rozporządzenie (UE) 2024/1689 w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji (akt w sprawie sztucznej inteligencji) (EUR-Lex)
- AI Act: co się zmieniło 2 sierpnia 2026 roku? (Ministerstwo Cyfryzacji)
- Ustawa z dnia 3 lipca 2026 r. o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003) (ISAP, Kancelaria Sejmu)
- LLM05:2025 Improper Output Handling (OWASP Gen AI Security Project)
- Token and Cost Tracking (Langfuse)
Najczęstsze pytania
Czym aplikacja AI różni się od agenta AI?
Agent pracuje w tle i sam przechodzi przez kolejne kroki w kilku systemach. Aplikacja ma ekrany, na których ludzie pracują z wynikiem modelu: przeglądają go, poprawiają i zatwierdzają. Aplikacja może też uruchamiać agenta i pokazywać jego wyniki w kolejce akceptacji.
Czy po wdrożeniu mogę zmienić dostawcę modelu?
Tak. Wywołania modelu przechodzą przez jedną warstwę w kodzie, więc zmiana to konfiguracja i ponowne uruchomienie zestawu testów na Twoich sprawach. Nowy model włączam dopiero wtedy, gdy na tym zestawie wypada co najmniej tak dobrze jak obecny.
Kto płaci za użycie modelu?
Ty, bezpośrednio dostawcy, na koncie założonym na Twoją firmę. W aplikacji ustawiam limity na użytkownika i na firmę, a panel administratora pokazuje zużycie, więc rachunek nie zaskoczy Cię na koniec miesiąca.
Od czego zacząć budowę aplikacji AI?
Od jednego rodzaju spraw i jednej kolejki akceptacji. Zanim powstaną ekrany, sprawdzam model na przykładach z historii firmy z zapisanym poprawnym wynikiem, podobnie jak w pilotażu agenta AI. Kolejne rodzaje spraw dokładam, gdy zapis decyzji pokaże, że model radzi sobie z pierwszym. Taka pierwsza wersja to zakres od około 8000 zł netto.
Powiązane strony
Masz krok w procesie, który AI mogłoby przygotować do zatwierdzenia?
Opisz, kto dziś go wykonuje i ile spraw dziennie przechodzi. Odpowiem, czy wystarczy funkcja w obecnym programie, czy potrzebna jest nowa aplikacja.