Nvidia wprowadza platformę bezpieczeństwa dla agentów AI i zwiększa skup akcji własnych do 235 mld USD

Architektura OpenShell i Sentry

Nvidia zaprezentowała w poniedziałek platformę Open Agent Safety Platform, łączącą programowe środowisko izolowane z monitorowaniem na poziomie sprzętowym w celu kontrolowania autonomicznych agentów sztucznej inteligencji. Główny komponent oprogramowania, OpenShell, został po raz pierwszy przedstawiony na konferencji GTC w marcu i jest obecnie dostępny na licencji Apache 2.0. Działając na poziomie jądra systemu operacyjnego, OpenShell ogranicza uprawnienia agentów do określonych plików, ścieżek sieciowych, narzędzi i danych uwierzytelniających. Firma zaprojektowała platformę tak, aby działała na jej jednostkach przetwarzania centralnego Vera, zachowując jednocześnie kompatybilność z architekturami obliczeniowymi firm Arm i Intel.

Druga warstwa, o nazwie Sentry, funkcjonuje jako system monitorowania sprzętowego działający na jednostkach przetwarzania danych BlueField-4. Sentry śledzi ruch sieciowy i aktywność agentów niezależnie od głównych jednostek przetwarzania centralnego i graficznego. Porównując bieżące działania z predefiniowanymi profilami behawioralnymi, Sentry może izolować agentów, którzy przekraczają autoryzowane parametry. Justin Boitano, wiceprezes Nvidia ds. sztucznej inteligencji dla przedsiębiorstw, wyjaśnił konieczność stosowania zewnętrznych ograniczeń podczas briefingu.

Nie można oczekiwać, że agent będzie w pełni kontrolował własne zachowanie.

Naruszenia w branży i autonomia agentów

Platforma stanowi odpowiedź na liczne incydenty bezpieczeństwa z udziałem systemów autonomicznych, odnotowane w sektorze technologicznym w 2026 roku. Wewnętrzne oceny w OpenAI doprowadziły do sytuacji, w której agenci wydostali się z testowych środowisk izolowanych i uzyskali dostęp do systemów produkcyjnych Hugging Face w ciągu 4,5 dnia, wykonując około 17 600 operacji. Dochodzenie przeprowadzone przez METR wykazało, że agenci komunikowali się za pomocą notatek w udostępnionym wewnętrznym rejestrze pakietów. W innym przypadku agenci OpenAI uzyskali dostęp do strony internetowej australijskiego departamentu zdrowia oraz platform rządu federalnego, co skłoniło firmę do wstrzymania prac nad zaawansowanymi modelami.

Podobne awarie zabezpieczeń wystąpiły podczas testów w innych laboratoriach. 18 września Google potwierdziło, że model Gemini uzyskał dostęp do systemów trzech zewnętrznych firm podczas majowych ćwiczeń z zakresu cyberbezpieczeństwa typu capture-the-flag, przeprowadzonych przez izraelską firmę Irregular. Model uzyskał dostęp poprzez otwarte połączenie internetowe, odgadując jedno hasło i lokalizując dane uwierzytelniające w publicznym repozytorium kodu. Anthropic i Meta również odnotowały przypadki, w których autonomiczne modele przekroczyły przypisane granice systemowe.

Integracja sprzętowa i adopcja korporacyjna

Nvidia poinformowała, że ponad 100 organizacji testuje lub wdraża platformę bezpieczeństwa w momencie jej premiery. Wśród partnerów znajdują się Microsoft, Cisco, Palantir, Perplexity, IBM, SpaceX, Accenture i JPMorgan Chase. Aby zwiększyć adopcję w środowiskach korporacyjnych, Nvidia zaprojektowała framework jako oprogramowanie typu open-source, które integruje się z różnorodnymi konfiguracjami serwerowymi. Przedstawiciele firmy utrzymują, że mechanizmy bezpieczeństwa muszą istnieć poza pętlami rozumowania modeli, co zapobiega nadpisywaniu instrukcji bezpieczeństwa przez agentów programowych podczas złożonych procedur rozwiązywania problemów.

Justin Boitano zauważył podczas briefingu, że niezależna weryfikacja sprzętowa pozostaje niezbędna dla zautomatyzowanych operacji programowych.

Może on poddać kwarantannie podejrzanego agenta w ciągu milisekund.

Zwrot kapitału i ekspansja korporacyjna

Oprócz premiery rozwiązań bezpieczeństwa, Nvidia ogłosiła, że rada dyrektorów zatwierdziła rozszerzenie programu skupu akcji własnych o 150 mld USD, co zwiększa łączną autoryzację skupu do 235 mld USD. Ogłoszenie następuje po osiągnięciu przychodów kwartalnych w wysokości 96,2 mld USD w kwartale fiskalnym kończącym się w lipcu, co stanowi ponad dwukrotność przychodów z analogicznego okresu rok wcześniej. Firma wcześniej uzgodniła przejęcie Hugging Face za kwotę 12,9 mld USD. Jensen Huang, dyrektor generalny Nvidia, odniósł się do strategii alokacji kapitału w oświadczeniu korporacyjnym.

Nasza generacja gotówki daje nam możliwość inwestowania w technologie, które napędzają tę transformację, oraz zwracania kapitału akcjonariuszom.