LLM-y decyzyjne: Kiedy model powinien podejmować decyzje — a kiedy nie powinien

Zapytaj praktyków, co się psuje w systemach agentowych, a odpowiedz jest rzadko kwestią zdolności. Awaria jest cichsza: model podejmuje decyzję, a nikt nie potrafi odróżnić trafności od płynności mowy.

Wyjście modelu to próbkowanie. Decyzja ma właściwości, których próbkowanie nie posiada — determinizm dla stałego wejścia, niezmienniki, które musi spełniać, oraz ślad audytowy wyjaśniający, dlaczego wybrano tę, a nie inną opcję. Gdy tych właściwości brakuje, „decyzja” jest jedynie trafnym przypuszczeniem o wysokim stopniu pewności, udającym prawdziwą decyzję.

Ten artykuł daje mechaniczne podejście do tego luzu: taksonomię pięciu ról decyzyjnych, regułę routingu każdej decyzji do najmniejszego modelu kompetentnego do jej podjęcia oraz mechanizm weryfikacji, który przekształca stwierdzenie „agent zdecydował X” w coś, co można później udowodnić jako poprawne. Zakończony jest rubryką, którą można zastosować do dowolnej akcji w Twoim systemie.

„Dla lokalnych agentów luką, na którą ciągle natykam się, nie są zdolności, lecz weryfikacja. Agent twierdzi, że odczytał plik, wywołał narzędzie lub podjął decyzję…” — r/LocalLLaMA, „Najlepsze lokalne agenty — czerwiec 2026”

„Gdy agent LLM zawiedzie, jest to czarny skrzynka i nikt nie wie, dlaczego. Prawdziwą barierą dla wdrożeń nie jest podniesienie dokładności modelu z 92% do 96% — [to jest wiedza, dlaczego podjął decyzję X].” — r/AI_Agents, „Luka między decyzją a wykonaniem”

Społeczność wypracowała trzy instynkty: nie ufaj modelowi przy ostatecznych decyzjach, routuj decyzję do najmniejszego kompetentnego modelu oraz uczynią decyzję wyjaśnialną. Czego brakowało, to ramy, która sprawia, że te trzy zasady stają się jednocześnie działające.

Dlaczego „odpowiada, ale czy decyduje?”

Wyjście modelu to rozkład tokenów zawężony do jednej sekwencji, a ten sam prompt uruchomiony dwukrotnie może wygenerować dwie sekwencje, które rozchodzą się dokładnie przy tym tokonie, który ma znaczenie. Decyzja z kolei jest deterministyczna dla stałego wejścia, spełnia jawne niezmienniki i pozostawia ślad audytowy zapisujący, która gałąź została podjęta i dlaczego.

Gdy model „decyduje” bez mechanizmów wokół niego, żadna z tych właściwości nie istnieje. Nie ma niezmiennika, którego wyjście musiałoby respektować, nie ma dziennika podjętej gałęzi, nie ma sposobu na odtworzenie decyzji i sprawdzenie, czy się utrzymała. Luką nie jest inteligencja — to fakt, że probabilistyczne wyjście umieszczono w slocie zaprojektowanym dla wejścia deterministycznego.

Instynkt praktyka polega na wykluczeniu modelu z samej decyzji:

„LLM nigdy nie podejmuje ostatecznych decyzji w systemie. Jego rola jest czysto: dopracowanie logiki, testy stresowe, generowanie scenariuszy, wyjaśnienia.” — r/AI_Agents, „Wykorzystanie LLM jako „agenta rozumowania” do walidacji cen…”

To jest prawidłowa postawa sformułowana jako maksyma. Aby ją zastosować, potrzebujesz sposobu na sklasyfikowanie, jaką rolę model powinien pełnić dla danej akcji — to właśnie oferuje poniższa taksonomia.

Pięć ról decyzyjnych

Każdą decyzję, jaką podejmuje system, można przypisać do jednej z pięciu ról. Rola determinuje, w jakim stopniu wyjście modelu można ufać, jak jest audytowane, jak się zawiedzie i czy człowiek należy do pętli.

Czytaj tabelę jako ograniczenie, nie jako menu. Większość niesprawnych systemów dzieli wspólną wadę: pojedynczy model pełni wszystkie pięć ról naraz, więc rola wymagająca determinizmu (decydent) jest obsługiwana przez komponent zoptymalizowany pod płynność mowy (generator). Gdy model działa jako generator, nie jest potrzebna żadna maszyna decyzyjna — jest potrzebny przegląd treści. Awarią, której należy unikać, jest mylenie tych ról: „agent zdecydował o usunięciu środowiska” to zwykle brak bramki zatwierdzającej, a nie problem jakości decyzji.

Routuj decyzję do najmniejszego kompetentnego modelu

Gdy rola jest ustalona, pytaniem o routing jest, która hierarchia modeli ją obsługuje. Praktycy bezpośrednio raportują zyski:

„Routing modeli: Haiku do decyzji klasyfikacyjnych/routingowych, Sonnet do wykonania, Opus tylko do projektowania/planowania. Koszt spadł o ~60%, gdy przestałem używać Opusa do wszystkiego.” — r/AI_Agents, „Jaki jest Twój pełny stos AI Agent w 2026 roku”

Ta liczba pochodzi z traktowania wyboru modelu jako decyzji per rola, zamiast per system. Wezwanie routingu — „czy to jest triaż poczty e-mail czy zatwierdzenie zwrotu środków?” — to klasyfikacja, a klasyfikacja nie wymaga modelu frontowego; wymaga małego, szybkiego modelu o niskiej temperaturze, ponieważ działa tysiące razy. Mechanika hierarchii — wybór oparty na możliwościach, świadomy kosztu i opóźnienia, plus łańcuchy awaryjne — jest opisana w Model Routing: Przestań używać jednego modelu do wszystkiego; wzorce orkiestracji wokół wielu modeli są w Projektowanie systemów wielomodelowych.

Dodatkiem, który wnosi klatka decyzyjna, jest eskalacja oparta na pewności, która sprawia, że „najmniejszy kompetentny” jest mierzalny, a nie zakładany. Zaczynamy od najmniejszej hierarchii. Jeśli model emittuje skalibrowaną pewność — lub strukturalną samooceny — i przekracza próg, zatrzymujemy się. Jeśli nie, eskalujemy o jeden poziom i zapisujemy eskalację. Kompetencja staje się wtedy własnością weryfikowaną per wezwanie, a nie własnością zakładaną per model.

Jedno ograniczenie pozostaje absolutne niezależnie od hierarchii: sama rola routera nie może być swobodnym wezwaniem modelu językowego. Kręgosłup deterministyczny — reguły dotyczące typu zadania, rozmiaru obciążenia, budżetu kosztowego — wybiera gałąź, a model wypełnia tylko decyzje liściowe wewnątrz niej. Kręgosłup jest audytowalny i testowalny jednostkowo; model jest ograniczony do tego, w czym jest faktycznie dobry.

Sprawianie decyzji weryfikowalną

Tu zamyka się luka „agent twierdzi, że zrobił X”. Poprawką jest uczynienie decyzji pierwszoklasowym, strukturalnym artefaktem, a nie skutkiem ubocznym kolejki czatu:

1. Strukturalny magazyn decyzji. Każda decyzja, jaką model może podjąć, jest zapisywana do tabeli, a nie do linii dziennika: wejście, rola, model i hierarchia, pewność, rozważane alternatywy, znacznik czasu. Decyzja to coś, co można później SELECT. Jeśli istnieje tylko w transkrypcie konwersacji, to jest przypuszczenie.
2. Dziennik decyzji, oddzielny od dziennika wykonania. Dziennik wykonania mówi, co się wydarzyło; dziennik decyzji mówi, co zostało postanowione i na jakiej podstawie. Rozdzielenie jest istotne, ponieważ awaria następuje zwykle przy decyzji, a nie przy wykonaniu — agent wykonał usunięcie perfekcyjnie; błędem była decyzja o usunięciu. Mechanika strukturalnego, wyłącznie dodawania logowania jest taka sama, jak ta używana dla śladów audytowych zgodności w LLM Guardrails in Practice.
3. Niezmienniki i asercje. Dla ról decydenta i ewaluatora, decyzja musi spełniać niezmienniki sprawdzane po emitowaniu przez model, w kodzie deterministycznym. Rekomender cen może emitować cokolwiek; niezmiennik „zalecana cena musi mieścić się w zakresie [minimum, maksimum]” jest egzekwowany przez kod. Model proponuje; niezmiennik dysponuje.
4. Bramki zatwierdzenia ludzkiego na granicy nieodwracalności. Bramka jest własnością promienia wybuchu akcji, a nie pewności modelu. Zwrot środków poniżej progu jest automatycznie zatwierdzalny; powyżej niego — nie. Model o 99% pewności nadal nie może zatwierdzić nieodwracalnej akcji, dla której nie ma rekordu audytowego.

Przewodnia myśl: dążenie do poprawy dokładności z 92% do 96% nie jest barierą — wyjaśnialnością jest. System z 92% dokładnością, w którym każda decyzja jest zapisywana, sprawdzana pod kątem niezmienników i bramkowanym na granicy, wjeżdża bezpiecznie, ponieważ 8% błędnych decyzji jest wykrywalna, zanim wyrządzi szkodę. System z 99% dokładnością z procesem decyzyjnym jako czarną skrzynką nie wjeżdża, ponieważ 1% jest aktywną incydentem bez rekordu forensicznego. Gdzie sama bramka znajduje się w asystencie — który komponent posiada autorytet zatwierdzający i jak żądania do niego docierają — jest ułożone w Architektura asystenta AI: LLM, Pamięć, Narzędzia, Routing, Obserwowalność.

Przykłady obliczeniowe

Trzy systemy, po jednym przypisaniu roli dla każdego.

Walidacja cen — model jako rekomender, nigdy decydent. Agent przegląda zmianę ceny od dostawcy i tworzy listę rankingu: zaakceptuj, negocjuj przy X, odrzuć. Ostateczna decyzja to slot decyzyjny wypełniony przez reguły deterministyczne: poniżej progu kosztowego, auto-akceptuj; powyżej maksimum, routuj do człowieka; pomiędzy, zastosuj niezmiennik „wy協商owana cena musi pokonać ostatnio zaakceptowaną o Y%.”. Model nigdy nie zatwierdza własnej rekomendacji, a rekomendacja znajduje się w magazynie decyzji ze śladem rubryki, jeśli coś pójdzie nie tak.

Routowanie zadań agenta — kręgosłup jako decydent, model przy liściach. Przychodzące żądanie (e-mail, zgłoszenie, komenda) jest przypisane do ścieżki przez kształt obciążenia i kategorię intencji — deterministyczne, testowalne jednostkowo. Mały model wypełnia tylko decyzję liściową wewnątrz gałęzi. Błędny routing jest zdarzeniem o promieniu wybuchu, co jest dokładnie powodem, dla którego wybór gałęzi musi być deterministyczny.

LLM jako sędzia — model jako ewaluator, rubryka jako ograniczenie. Jeden model ocenia wyjście innego według wersjonowanej rubryki, a ocena plus ślad rubryki są przechowywane, a nie tylko sama liczba. Znanym trybem awarii jest uprzedzenie autoodnoszenia się — model ocenia własny styl generowania wyżej — a mitygacja jest strukturalna: wersjonuj rubrykę, aby model nigdy nie oceniał potajemnie według kryteriów, które sam ukształtował.

Szczera granica

Istnieje klasa decyzji, których LLM nie powinien podejmować, i nie jest to kwestia skali: akcje, które są nieodwracalne, wysokiego ryzyka i nie mają fallbacku — usuwanie danych, przenoszenie funduszy, zobowiązania zewnętrzne. Weryfikacja jest niemożliwa dla akcji, której nie można cofnąć, stąd „autonomiczny agent” wciąż natyka się na tę samą ścianę niezależnie od jakości modelu.

Człowiek w pętli, który nie jest teatrem, znajduje się dokładnie na tej granicy i nigdzie indziej. Człowiek przeglądający każdą decyzję niskiego ryzyka dodaje tarcia i nie bezpieczeństwa; człowiek nieobecny przy każdej decyzji wysokiego ryzyka jest incydentem. Ta sama zasada pojawia się w węższej formie w pamięci agenta: pętle samonapędzające się w pamięci bramkują kandydackie zapisy w pamięci za jawnym zatwierdzeniem ludzkim, zanim coś dotrze do stanu trwałego — bramka dopasowana do tego, co zapis może zepsuć. Dla systemów wieloagentowych, odpowiadającym pytaniem jest, kto może działać w imieniu kogo, a mechanika tożsamości, delegowania i śladów audytowych dla tego jest w Bezpieczeństwo Agentów A2A i MCP.

Rubryka decyzyjna

Zastosuj to do dowolnej akcji w Twoim systemie:

1. Skalsyfikuj rolę. Decydent, rekomender, ewaluator, generator czy router? Nienazwana rola to błąd — model w slocie decydenta ubrany w pewność generatora.
2. Wybierz hierarchię dla tej roli. Najmniejsza kompetentna, z eskalacją opartą na pewności, aby kompetencja była mierzona per wezwanie.
3. Zdefiniuj weryfikację. Jakie niezmienniki muszą być spełnione? Co trafia do magazynu decyzji? Jaki jest ślad audytowy? Rola bez ścieżki weryfikacji jest decydentem domyślnie.
4. Ustaw bramkę ludzką na podstawie promienia wybuchu, nie pewności. Nieodwracalna lub wysokiego ryzyka → bramkowana. W innym przypadku → auto, z decyzją zapisaną, aby była wykrywalna.

Ta sama dyscyplina, zastosowana do wyborów inżynieryjnych zamiast akcji w czasie rzeczywistym, to to, co robią rekordy decyzyjne — Rekordy decyzyjne dla rozwoju napędzanego AI przechwyca, dlaczego wybór został poczynięty, aby mógł być później przeglądany; powyższa rubryka robi to samo dla decyzji podejmowanych przez działający system.

Co nadchodzi: decydent jako produkt

Ramka przewiduje własną komodyzację: gdy „routuj decyzję do najmniejszego kompetentnego modelu” stało się wzorcem, następnym krokiem była klasa modeli, która nie robi nic innego, tylko decyduje. Ten krok właśnie nastąpił.

Przez październik 2026, kilku producentów wydało modele zbudowane na wspólnym przepisie — zamrożony kręgosłup Qwen, adapter LoRA o rzędzie 256 i wspólny nagłówek schematu — które emitują typowane decyzje w jednym kroku forward: wybór ze zdefiniowanego zestawu, tak/nie lub ocena, ze skalibrowanymi prawdopodobieństwami i bez wolnego tekstu. Nie ma łańcucha myśli, na który trzeba czekać, ponieważ nie ma generowania. Raportowane przez producentów opóźnienia mieszczą się między około 8 a 210 ms w całej klasie — od najmniejszego wariantu (d1-3B, około 8 ms) po największy (d3, około 209 ms) — a ślady są w terenie małych GPU: d1-3B przy około 1,67 GB, d3-flash przy około 6,6 GB w Q4_K_M. Wsparcie też szybko się rozwinęło: llama.cpp scalono natywne wsparcie architektury dla kilku z tych modeli w ciągu około dwóch tygodni od wydania.

Dwie konsekwencje dla powyższej ramki. Po pierwsze, reguła routingu zyskuje wyrażenie sprzętowe, jakiego wcześniej nie miała: rola decydenta może być obsługiwana przez dedykowany mały model zamiast trybu promptu modelu uniwersalnego, co sprawia, że decyzja o najmniejszej kompetentnej hierarchii jest częściowo automatyczna — hierarchia istnieje dla typu Twojej decyzji lub nie. Po drugie, nic w kwestii weryfikacji się nie zmienia. Typowana decyzja w 8 ms nadal potrzebuje magazynu decyzji, niezmienników i bramki na granicy nieodwracalności; to, co klasa modeli usuwa, to koszt generowania i niedeterminizm, a nie ciężar audytowy. Szybsze decyzje mnożą liczbę rekordów decyzyjnych do zaudytowania — barierą nigdy nie była szybkość modelu i nie jest też inteligencją modelu.

Inne kierunki, na które warto zwrócić uwagę, są cichsze. Niezawodność wywoływania narzędzi dla małych modeli zbliża się do nasycenia — trening post na użycie narzędzi jest najtańszym krokiem o wysokim wpływie w stosie, co przesuwa uwagę na wiersze powyżej. Niezawodny horyzont planowania nieustannie się wydłuża, co sprawia, że rola decydenta staje się dostępna dla dłuższych zadań i wzrasta ciężar weryfikacji wraz z horyzontem. Obie odżywiają ten sam wniosek: rzadkim zasobem w systemach agentowych są decyzje, które można później udowodnić jako poprawne, a wszystko inne dogania tę zasobę.