Zatruwanie kontekstu w wieloagentowych pętlach generowania kodu
Zjawisko określane jako zatruwanie kontekstu (context poisoning) staje się obecnie kluczowym problemem technicznym, który hamuje wdrożenia w pełni autonomicznych zespołów agentów AI. W wieloagentowych pętlach generowania kodu polega ono na tym, że błędy, tak zwane "halucynacje" i artefakty o niskiej jakości wygenerowane przez jeden model, są bezkrytycznie przyjmowane i replikowane przez kolejne modele. W efekcie agentowe sieci tworzą gigantyczne pokłady bezwartościowych logów, testów i planów (tzw. slop).
W odcinku podcastu Patoarchitekci z 11 września, zatytułowanym "Slop factories vs dark AI factories - na którym poziomie realnie jesteśmy", prowadzący Szymon i Łukasz rozkładają na czynniki pierwsze brutalną rzeczywistość dzisiejszych systemów. Łukasz uparcie nazywa współczesne wieloagentowe architektury po prostu "slop factories", podkreślając przerażającą ilość szumu produkowaną w tego typu środowiskach.
Upadek weryfikacji a narodziny fabryk slopu
Głównym paliwem dla zatruwania kontekstu jest skalowalność samej sztucznej inteligencji, która całkowicie wyprzedza możliwości nadzoru przez inżyniera. „Realnie nie robisz review kodu. Przy tej ilości nie masz opcji, żeby to zrobić” – punktuje Szymon w podcaście.
Gdy rynkowi gracze obiecują coraz większą samodzielność sztucznej inteligencji, a zaawansowany asystent Devin od Cognition automatyzuje testowanie własnej pracy, obietnica pełnej wydajności zderza się z brakiem weryfikacji. Bez barier ochronnych agent przekazuje błędny wniosek dalej, infekując cały strumień zadań.
Ściana wydajności w lokalnym uruchamianiu
Rozwiązaniem problemu mogłoby być izolowane środowisko dla pomniejszych modeli, jednak tu przeszkodą stają się surowe zasady fizyki układów scalonych. Twórcy podcastu zwracają uwagę, że mimo dostępu do najnowszych modeli open weight – takich jak Qwen czy Metowe Muse – brutalna matematyka weryfikuje próby budowania autonomicznych struktur na sprzęcie lokalnym.
Nawet najmocniejszy układ M5 Max wyciąga zaledwie 20-30 tokenów na sekundę, co oznacza, że praca chmary równoległych agentów zostaje sprowadzona do absolutnego minimum.
Nowe prawa rynkowej ekonomii
Zatruwanie kontekstu i próby jego opanowania odmieniają całkowicie rynkową dynamikę. Stanowiska przeznaczone dla początkujących koderów zniknęły na rzecz polityki sprzętowej, w której pojawiają się jawne budżety w wysokości 300-500 dolarów na developera. Decyzje te potwierdzają benchmarki rynkowe: „juniorzy z AI-em - zwalnia, seniorzy z AI-em - przyspiesza”.
Narzędzia próbujące ułatwić zarządzanie kontekstami LLM i generowanym slopem przyciągają gigantyczny kapitał. Najlepszym przykładem jest świeże przejęcie platformy OpenRouter, wykupionej przez Stripe za 7-8 miliardów dolarów. Jednocześnie rośnie rynek narzędzi deweloperskich, takich jak Cursor. Interfejs ten używany jest obecnie nawet przez Elona, wokół którego rodzi się jednak pytanie o bezpieczeństwo tego, kto mu tam zostawia kod. Sam Cursor zmaga się również z pozwami o mylące limity 5x i 20x nakładane na jego użytkowników.
Halucynacje wybitnych twórców
Fakt, że żaden system nie uchroni człowieka przed zatruwaniem kontekstu, najlepiej udowadnia świat open source oraz najwybitniejsi przedstawiciele branży IT. Problemy z agentami trafiają nawet pod głosowania w projekcie Debian. Legendarny Linus debugował swój kernel z użyciem AI przez 18 rebootów, błądząc po wygenerowanym szumie, a Omarchy DHH podsumował swoje spotkanie z analizą przeprowadzoną przez LLM stwierdzeniem, że security review „po prostu wylało szambo”.
Ostatecznie integracje, w których biorą udział wyspecjalizowani agenci AI od Mistral, torują drogę do opanowania przestarzałych fragmentów kodu, ale zjawisko degradacji wiedzy pozostaje aktualne. Utrzymanie czwartego poziomu autonomii bazuje obecnie na delikatnych podstawach, a zbyt optymistyczne wprowadzanie AI bez obrony przed zatruwaniem kontekstu to nic innego jak budowa fabryki slopu na kredyt z tokenów.
