Claude i NVIDIA dają firmom większą kontrolę nad agentami AI
Przedsiębiorstwa coraz dynamiczniej przechodzą od prostych asystentów językowych odpowiadających na zapytania pracowników do zaawansowanych systemów wykonawczych. Współcześni agenci AI otrzymują dostęp do wewnętrznych baz danych, systemów transakcyjnych oraz uprawnienia do podejmowania samodzielnych działań w imieniu użytkowników. Wraz z rosnącą autonomią pojawia się jednak fundamentalne wyzwanie: jak zagwarantować, że autonomiczny program nie przekroczy swoich uprawnień i nie naruszy poufności danych? Odpowiedzią na ten problem jest strategiczne partnerstwo technologiczne, które ogłosiły firmy Anthropic oraz NVIDIA. Integracja usługi Claude Managed Agents z nowym, otwartoźródłowym środowiskiem NVIDIA OpenShell w ramach platformy Open Agent Safety Platform wprowadza wielowarstwową architekturę bezpieczeństwa, w której modele z rodziny Claude zyskują ścisłą, zewnętrzną barierę kontrolną.
Nowe podejście odchodzi od dotychczasowego paradygmatu, w którym bezpieczeństwo opierano głównie na wewnętrznych zabezpieczeniach samego modelu językowego (tzw. guardrails). Choć techniki wyrównywania modeli są stale rozwijane, w środowiskach produkcyjnych nie mogą stanowić jedynej linii obrony. Anthropic i NVIDIA postawiły na koncepcję modułowej ochrony warstwowej (protection in layers), w której każda bariera działa w sposób w pełni autonomiczny i niezależny od generowanych przez model tokenów.
Claude Managed Agents: izolacja procesów i sejf na poświadczenia
Kluczowym komponentem po stronie Anthropic jest Claude Managed Agents – zestaw komponowalnych interfejsów API w ramach Claude Platform, stworzony z myślą o budowie i wdrażaniu agentów produkcyjnych na dużą skalę. Jego najważniejszą cechą konstrukcyjną jest fizyczne i logiczne rozdzielenie pętli decyzyjnej agenta (agent loop) od piaskownicy (sandbox), w której faktycznie realizowane są zlecone zadania obliczeniowe i operacje na plikach.
Jednym z najczęstszych wektorów ataków na autonomiczne systemy było dotychczas przechwycenie danych uwierzytelniających za pomocą wstrzyknięcia złośliwych instrukcji (prompt injection). W Claude Managed Agents ten problem rozwiązano poprzez dedykowany skarbiec poświadczeń (credential vault). Wszystkie klucze API, hasła do baz danych i certyfikaty są przechowywane w zewnętrznym, zabezpieczonym rejestrze. Agent może zlecić wykonanie autoryzowanej operacji zewnętrznej, ale sam nigdy nie ma wglądu w surowe dane logowania. Dodatkowo platforma dostarcza szczegółowe ścieżki audytu (audit trails), rejestrujące każdą interakcję, oraz integruje się bezpośrednio z istniejącymi w firmie strukturami zarządzania tożsamością i dostępem (IAM). Taka separacja ma szczególne znaczenie przy pobieraniu rozszerzeń i modułów w ekosystemie Claude Marketplace, gdzie agenci wchodzą w interakcje z narzędziami tworzonymi przez zewnętrznych partnerów.
NVIDIA OpenShell: rygorystyczny runtime i matematyczny dowód polityk
Drugim filarem porozumienia jest NVIDIA OpenShell – bezpieczne oprogramowanie runtime udostępnione przez koncern NVIDIA na zasadach otwartej licencji Apache 2.0 (kod trafił do serwisu GitHub oraz na oficjalne strony deweloperskie producenta). Stanowi ono rdzeń zaprezentowanej przez NVIDIA inicjatywy Open Agent Safety Platform, wspieranej przez ponad 100 partnerów branżowych.
OpenShell działa w oparciu o rygorystyczną zasadę domyślnej odmowy (default-deny): agent ma zablokowany dostęp do wszystkich zasobów systemowych, dopóki administrator nie zdefiniuje jawnej reguły zezwalającej. Runtime monitoruje każde narzędzie, które system próbuje wywołać, weryfikuje operacje odczytu i zapisu plików, filtruje ruch sieciowy oraz nadzoruje przepływ wrażliwych danych. Co istotne, zespół inżynierów może zacząć od minimalnych uprawnień, przejrzeć logi wygenerowane przez OpenShell, a następnie za pomocą Claude precyzyjnie zawęzić reguły do zasady najmniejszych uprawnień (least privilege).
Przełomowym elementem OpenShell jest wbudowany mechanizm dowodzenia polityk (policy prover). Wykorzystuje on dowody matematyczne (mathematical proof), by w sposób formalny zweryfikować, do jakich zasobów, adresów sieciowych i plików dany agent jest w stanie dotrzeć w ramach zdefiniowanego zestawu reguł. Tego typu gwarancje stają się niezbędne w kontekście powierzania algorytmom decyzji finansowych i kontraktowych, co obserwowano już przy analizie założeń Project Swap, gdzie agenci zyskują mandat do samodzielnego handlu i zawierania transakcji.
Skalowanie w praktyce: wdrożenia w Notion, Rakuten oraz Asana
Architektura przygotowana przez Anthropic i NVIDIA została zaprojektowana z myślą o skomplikowanych, długotrwałych procesach biznesowych. Claude Managed Agents obsługuje długie sesje autonomiczne (long-running sessions), które mogą działać nieprzerwanie przez wiele godzin, zachowując stan realizacji zadań nawet w przypadku chwilowej utraty połączenia sieciowego. Rozwiązanie wspiera również zaawansowaną orkiestrację wieloagentową (multi-agent orchestration), umożliwiając jednemu agentowi koordynującemu uruchamianie i nadzorowanie pracy wyspecjalizowanych subagentów działających równolegle.
Skuteczność tego modelu potwierdzają pierwsze wdrożenia w wiodących przedsiębiorstwach technologicznych:
- Notion: Przedsiębiorstwo umożliwiło zespołom delegowanie złożonych zadań do Claude bezpośrednio w przestrzeni roboczej. Inżynierowie oprogramowania wykorzystują agentów do automatycznego wdrażania kodu, podczas gdy działy nietechniczne generują strony internetowe i prezentacje, realizując dziesiątki procesów równolegle.
- Rakuten: Japoński gigant e-commerce wdrożył wyspecjalizowanych agentów w kluczowych pionach biznesowych: inżynierii, rozwoju produktu, sprzedaży, marketingu oraz finansach. Dzięki architekturze zarządzanej uruchomienie każdego z nich zajęło mniej niż tydzień.
- Asana: Na bazie Managed Agents firma stworzyła moduł AI Teammates – wirtualnych współpracowników, którzy koordynują zadania w projektach i przygotowują wersje robocze dokumentów ramię w ramię z ludźmi.
Dostępność i znaczenie otwartych standardów
Claude Managed Agents jest już ogólnodostępny dla klientów biznesowych. Przedsiębiorstwa mogą uruchamiać piaskownice na własnej infrastrukturze serwerowej lub skorzystać z certyfikowanych, zarządzanych dostawców chmurowych. Z kolei NVIDIA OpenShell pozostaje projektem w pełni otwartym, co pozwala zespołom bezpieczeństwa na audyt kodu źródłowego oraz dostosowywanie środowiska do specyficznych wymogów regulacyjnych.
Wspólny krok Anthropic i NVIDIA wyznacza nowy standard w branży sztucznej inteligencji. Zamiast traktować bezpieczeństwo modeli jako kwestię czysto akademicką lub deklaratywną, wdrożenie zewnętrznych środowisk wykonawczych i matematycznej weryfikacji uprawnień przenosi kontrolę nad autonomicznymi agentami wprost do warstwy inżynierii systemowej.
