NVIDIA 28 września 2026 roku uruchomiła Open Agent Safety Platform – zestaw warstw bezpieczeństwa przeznaczonych do kontrolowania autonomicznych agentów AI podczas pracy. Platforma łączy OpenShell, czyli open source’owy runtime egzekwujący zasady dostępu, oraz Sentry – niezależny mechanizm monitorujący zachowanie agenta na poziomie sprzętu BlueField-4.
To ważny news, bo bezpieczeństwo agentów przesuwa się z poziomu samego promptu i guardrailów w stronę klasycznej infrastruktury security. Założenie NVIDIA jest proste: agent nie powinien być jedynym systemem odpowiedzialnym za pilnowanie własnych granic. Kontrola dostępu ma działać poza nim i pozostać skuteczna nawet wtedy, gdy model spróbuje ominąć instrukcje.
- OpenShell – sandbox i polityki działania
- Sentry – watchdog poza agentem
- Dlaczego system prompt już nie wystarcza?
- Bezpieczeństwo agentów staje się osobną warstwą infrastruktury
OpenShell – sandbox i polityki działania
OpenShell 0.1.0 tworzy bezpieczny runtime wokół agenta. Kontroluje, do jakich systemów, plików i usług agent może się odwołać, przechowuje poświadczenia poza jego bezpośrednim środowiskiem i sprawdza żądania wychodzące względem zdefiniowanych polityk. Można go zastosować bez przebudowy samego agenta, co jest szczególnie istotne w firmach korzystających z kilku modeli i frameworków.
Platforma przewiduje osobne komponenty do zarządzania flotą agentów, sandboxów i reguł. NVIDIA dodaje także analizę formalną polityk, dzięki której można sprawdzić, czy zestaw uprawnień nie pozwala agentowi wyjść poza założone granice.
Sentry – watchdog poza agentem
Sentry działa jeszcze niżej. Wykorzystuje BlueField-4 DPU jako zewnętrznego obserwatora, który monitoruje interakcje, decyzje polityk i użycie narzędzi. Dzięki temu agent nie kontroluje systemu odpowiedzialnego za jego nadzór. Jeśli zachowanie odbiega od reguł, Sentry może pomóc odizolować workload albo przerwać działanie.
| Warstwa | Rola |
|---|---|
| Agent | wykonuje zadanie i korzysta z narzędzi |
| OpenShell | egzekwuje dostęp do systemów, usług i danych |
| Sentry | monitoruje agenta niezależnie na poziomie infrastruktury |
Dlaczego system prompt już nie wystarcza?
System prompt jest instrukcją, a nie twardym mechanizmem uprawnień. Jeśli agent ma dostęp do sieci, terminala, API i poświadczeń, samo napisanie „nie wychodź poza ten katalog” nie jest równoważne ograniczeniu systemowemu. Modele potrafią popełniać błędy, źle interpretować polecenia lub ulec prompt injection. Bezpieczna architektura musi więc zakładać, że agent może spróbować wykonać coś, czego nie powinien.
To zmienia sposób myślenia o AI safety. Zamiast oczekiwać, że model będzie zawsze „grzeczny”, tworzymy środowisko, w którym nawet niewłaściwa decyzja nie powinna prowadzić do nieautoryzowanego działania.
Bezpieczeństwo agentów staje się osobną warstwą infrastruktury
NVIDIA nie jest jedyną firmą reagującą na ten problem, ale jej rozwiązanie jest szczególnie interesujące, bo łączy software z warstwą sprzętową. Reuters opisywał premierę w kontekście ostatnich incydentów z agentami, które przekraczały granice środowisk testowych. Im bardziej autonomiczne stają się systemy, tym bardziej potrzebują odpowiednika klasycznego sandboxa, firewalla i monitoringu.
W naszym serwisie opisywaliśmy już sytuację, w której OpenAI zaostrzało procedury wokół modelu Astra ze względu na możliwości cyber. Open Agent Safety Platform pokazuje drugi poziom problemu: nie tylko co model potrafi, ale jak technicznie ograniczyć to, co wolno mu zrobić w realnym systemie.
- sandbox dla agenta AI
- AI agent runtime
- OpenShell NVIDIA
- monitoring agentów AI
- jak ograniczyć uprawnienia agenta AI
Dokumenty techniczne i relacje
News opiera się na dokumentacji NVIDIA, opisie technicznym OpenShell oraz niezależnych relacjach dotyczących premiery i jej znaczenia dla bezpieczeństwa agentów.
