Przejdź do treści

Wybór modelu AI do agenta i aplikacji: test na danych firmy zamiast rankingu

Nazwy modeli zmieniają się co kilka miesięcy, a rankingi mierzą zadania, których Twój agent nigdy nie dostanie. Dlatego nie piszę, który model jest dziś na szczycie listy, tylko jak dobieram model do agenta albo aplikacji i co sprawdzam przed decyzją.

Autor: Szymon Łakomy. Aktualizacja:

Dlaczego ranking modeli nie wystarcza do wyboru?

Publiczne zestawienia porównują modele na ogólnych zadaniach, najczęściej po angielsku. Agent w firmie robi coś węższego: czyta polskie maile z literówkami, wywołuje kilka konkretnych narzędzi i zwraca pola w ustalonym formacie. Model z czołówki zestawienia może na takim zadaniu przegrać z tańszym konkurentem, a różnica między dwoma modelami bywa mniejsza niż różnica między dwiema wersjami instrukcji.

OpenAI w przewodniku po wyborze modelu radzi najpierw osiągnąć wymaganą trafność, nawet na większym modelu, a dopiero potem szukać najtańszego i najszybszego modelu, który tę trafność utrzyma. Tak też pracuję. Ten sam zestaw spraw i arkusz wyników, które opisuję na stronie testowanie agentów AI, uruchamiam na dwóch, trzech modelach naraz. Tak samo wybieram model do aplikacji AI na zamówienie, w której wykonuje on jeden krok procesu firmy.

Jakie kryteria liczą się przy wyborze modelu do agenta?

KryteriumCo sprawdzamDlaczego to ważne w agencie
Polszczyznaodpowiedzi na prawdziwe wiadomości klientów, odmianę nazw i tonbłąd językowy w szkicu do klienta oznacza poprawkę przy każdym zatwierdzeniu
Wywołania narzędziczy model wybiera właściwe narzędzie i podaje poprawne parametryagent, który zgaduje zamiast sprawdzić w systemie, myli się bez ostrzeżenia
Ustalony format odpowiedziczy wynik przechodzi walidację pól, na przykład kategorii, kwoty i datyzły format zatrzymuje przepływ albo zapisuje błędne dane w systemie
Trzymanie się źródełczy model odpowiada tylko z dostarczonych dokumentów i przyznaje, że czegoś nie wiezmyślona odpowiedź brzmi pewnie, o czym piszę na stronie halucynacje AI
Długość kontekstuczy najdłuższe sprawy z archiwum, z wątkiem i załącznikiem, mieszczą się w oknie modeluobcięty kontekst to brakujące informacje, a model nie zawsze o tym powie
Koszt jednej sprawytokeny wejścia i wyjścia razy cennik, liczone na prawdziwych sprawach, a nie sama cena za milion tokenówmodel tańszy za token, który pisze dłużej albo częściej woła narzędzia, bywa droższy na sprawę
Czas odpowiedziczas do gotowego wyniku przy typowej i przy najdłuższej sprawiew czacie z klientem liczą się sekundy, w pracy w tle znacznie mniej
Region danychczy model działa w regionie UE przez API dostawcy albo w Azure, Bedrock lub Vertex AIod tego zależy, czy dane klientów mogą trafić do modelu; opcje opisuje strona modele AI z danymi w UE
Wycofaniaczy dostawca publikuje daty wyłączenia modeli i zalecane zamiennikimodel w agencie kiedyś zostanie wyłączony, a przejście trzeba zaplanować, co opisuję przy opiece nad agentem AI

Kolejność kryteriów zależy od zadania. Przy klasyfikacji w tle liczy się koszt, przy rozmowie z klientem czas i ton.

Rodziny modeli, z których wybieram (stan na listopad 2026)

Nie podaję numerów wersji ani cen, bo zmieniają się szybciej niż ta strona. Tabela pokazuje rodziny, które biorę pod uwagę, i to, co sprawdzam w każdej z nich, zanim wejdzie do porównania.

RodzinaGdzie dostępnaCo sprawdzam przed wyborem
GPT (OpenAI)API OpenAI albo Azure OpenAI w subskrypcji Azurestronę wycofań OpenAI i to, czy model działa w projekcie z regionem Europa albo w wybranym typie wdrożenia Azure
Claude (Anthropic)API Anthropic, Amazon Bedrock, Vertex AI w Google Cloudstronę wycofań Anthropic i dostępność modelu w regionie UE na wybranej platformie, a zastosowania opisuję przy Claude w firmie
Gemini (Google)Gemini API albo Vertex AI w Google Cloudczy wybrany model ma przetwarzanie w regionie UE, bo Google podaje to osobno dla każdego modelu
Mistral (Mistral AI)API Mistral z danymi przechowywanymi domyślnie w UE, część modeli ma otwarte wagilicencję wybranego modelu i to, czy aplikacja nie korzysta z punktu końcowego w USA
Bielik (SpeakLeash)otwarte wagi na Hugging Face, uruchamiane na własnym albo wynajętym serwerzelicencję w karcie modelu i sprzęt, na którym odpowiedź przyjdzie w rozsądnym czasie
PLLuMotwarte wagi na Hugging Face, na koncie CYFRAGOVPLlicencję konkretnego modelu, bo warunki zależą od repozytorium

Stan na listopad 2026. Rodziny zostają, ale konkretne modele w nich dostawcy wymieniają co kilka miesięcy.

Bielik i PLLuM to modele z otwartymi wagami, przygotowane z myślą o polszczyźnie. Biorę je pod uwagę, gdy dane nie powinny trafiać do zewnętrznego dostawcy albo gdy zadanie jest wąskie, na przykład klasyfikacja polskich dokumentów. Do rozsądnego czasu odpowiedzi potrzebują zwykle serwera z kartą graficzną, a przy małym ruchu taki serwer bywa droższy niż opłaty za API, więc z modelami w chmurze porównuję je pod względem trafności i kosztu jednej sprawy. Sprzęt i kompromisy opisuję na stronie lokalny model AI w firmie.

Czy jeden model wystarczy do całego agenta?

Rzadko opłaca się, żeby całą pracę wykonywał jeden, najmocniejszy model. Zwykle układam podział:

  • Mały, tani model do prostych kroków. Rozpoznanie rodzaju sprawy, wyciągnięcie numeru zamówienia, ocena, czy wiadomość w ogóle wymaga odpowiedzi.
  • Mocniejszy model do trudnych spraw. Szkic odpowiedzi na reklamację, wybór między kilkoma narzędziami, sprawy z niepełnymi danymi.
  • Zapasowy dostawca. Drugi model u innego dostawcy, sprawdzony na tym samym zestawie spraw, na wypadek awarii, limitu zapytań albo wyłączenia modelu.

Połączenie z modelem piszę tak, żeby zmiana dostawcy była zmianą konfiguracji, a nie przebudową. W agencie w n8n model to osobny węzeł, w kodzie jedna warstwa z tym samym interfejsem dla każdego dostawcy, tak jak przy integracji ChatGPT API z aplikacją firmową. Przy kilku agentach każdy może dostać inny model, o czym piszę przy systemie wieloagentowym. Rachunek za tańszy i droższy model w jednym agencie oszacujesz w kalkulatorze kosztów API AI.

Źródła

Opis opieram na poniższych źródłach. Przepisy, dokumentacja producentów i warunki usług się zmieniają, więc szczegóły warto sprawdzić u źródła:

Najczęstsze pytania

Czy jest jeden model AI, który wygrywa w każdym zadaniu agenta?

Nie. Modele różnią się kosztem, szybkością, polszczyzną i obsługą narzędzi, a dostawcy co kilka miesięcy wypuszczają nowe wersje. Wynik porównania na sprawach firmy dotyczy więc jednego zadania i jednego momentu. Przy kolejnej zmianie modelu porównanie powtarzam.

Czy Bielik albo PLLuM mogą obsłużyć całego agenta?

Nie zakładam tego z góry, bo agent oprócz dobrej polszczyzny musi poprawnie wywoływać narzędzia i trzymać format odpowiedzi, a to sprawdza dopiero porównanie na sprawach firmy. Gdy model z otwartymi wagami dobrze rozumie dokumenty, ale myli się przy narzędziach, proponuję podział: on na serwerze firmy czyta dokumenty z danymi osobowymi i zwraca tylko potrzebne pola, bez nazwisk i numerów, a model w chmurze dostaje ten wynik i obsługuje kroki z narzędziami.

Ile kosztuje porównanie modeli do mojego agenta?

Przy nowym agencie porównanie dwóch, trzech modeli mieści się we wdrożeniu, które zaczyna się od około 1200 zł netto. Porównanie dla agenta, który już działa, na przykład przed zmianą dostawcy, wyceniam po rozmowie. Opłaty za wywołania modeli w czasie testów idą na konto firmy u dostawców, a ceny wdrożeń zebrałem na stronie ile kosztuje agent AI.

Czy model da się zmienić bez przebudowy agenta?

Tak, jeśli połączenie z modelem jest oddzielone od reszty. Wtedy zmiana to konfiguracja i powtórzenie testów. Nowy model może jednak inaczej trzymać format albo chętniej sięgać po narzędzia, więc czasem trzeba poprawić instrukcje. Gdy zmianę wymusza wycofanie modelu, postępuję jak przy opiece nad agentem AI.

Czy wybór modelu do agenta to to samo co wybór ChatGPT albo Copilota dla zespołu?

Nie. Asystenta dla zespołu wybiera się po aplikacji, planie dla firm i połączeniu z pakietem biurowym, co porównuję na stronie ChatGPT czy Copilot w firmie. Model do agenta działa przez API, bez okna rozmowy, więc liczą się wywołania narzędzi, format odpowiedzi, koszt jednej sprawy i region danych.

Powiązane strony

Nie wiesz, który model wybrać do agenta?

Opisz zadanie i prześlij kilka przykładowych spraw bez danych osobowych. Zaproponuję dwa, trzy modele do porównania i powiem, co sprawdzimy przed decyzją.