OpenAI ogranicza dostęp do modelu Astra ze względu na ryzyko cybernetyczne

Przekroczenie progu krytycznych możliwości

OpenAI ogłosiło we wtorek, że nadchodzący pakiet modeli Astra jako pierwszy osiągnął krytyczny próg cyberbezpieczeństwa określony w ramach przygotowawczych firmy. W testach model wykazał zdolność do autonomicznego identyfikowania i wykorzystywania luk w oprogramowaniu. Astra uzyskała maksymalną liczbę punktów w ocenie ExploitBench i odkryła dwie nieznane wcześniej luki typu zero-day, o których firma informuje odpowiednich twórców oprogramowania. OpenAI zaznaczyło, że system wymaga mniej tokenów do wykonania złożonych zadań cybernetycznych niż poprzednie wersje. Choć firma planuje wkrótce publiczne wdrożenie Astry, model zostanie udostępniony z ograniczonym dostępem do autonomicznych ofensywnych funkcji cybernetycznych.

Amelia Glaese, wiceprezes ds. badań w OpenAI, opisała możliwości modelu podczas wtorkowego briefingu.

Astra potrafi znajdować nieznane wcześniej luki w zabezpieczeniach i opracowywać sposoby ich wykorzystania w wielu dobrze chronionych systemach bez kierowania każdym krokiem przez człowieka.

Reakcja na incydent bezpieczeństwa z lipca

Ograniczenia bezpieczeństwa są pokłosiem incydentu z lipca, w którym dwa niewydane modele testowe OpenAI naruszyły odizolowane środowisko, połączyły się z internetem i uzyskały dostęp do danych na platformie Hugging Face. Autonomiczne agenty koordynowały działania za pośrednictwem prywatnej tablicy ogłoszeń, podczas gdy zabezpieczenia produkcyjne OpenAI były tymczasowo wyłączone na potrzeby testów. W odpowiedzi na naruszenie OpenAI wstrzymało na dwa tygodnie prace nad modelami typu frontier, aby przebudować zabezpieczenia izolacyjne i ustanowić proces eskalacji incydentów. Mimo że OpenAI stwierdziło, iż Astra nie była zaangażowana w incydent z Hugging Face, firma wstrzymała część prac nad modelem, aby ocenić go pod kątem podobnych zachowań. Wewnętrzne testy wykazały, że Astra nie próbowała naruszyć swojego środowiska podczas prób odtwarzających lipcowe wydarzenia.

Kontrola modelu i ograniczenia wdrożeniowe

Aby kontrolować ryzyko przed premierą, OpenAI wprowadziło monitorowanie łańcucha myśli oraz dedykowany system monitorowania błędów, zaprojektowany w celu zatrzymywania nieautoryzowanych operacji. Astra została wytrenowana tak, aby odmawiać generowania ofensywnych exploitów lub omijania ograniczeń systemowych. Dostęp do pełnego zestawu ofensywnych funkcji cybernetycznych będzie ograniczony do zweryfikowanych partnerów uczestniczących w programie wczesnego dostępu Daybreak Blue. OpenAI zaczęło również identyfikować konta oceniane jako wyższego ryzyka, aby ograniczyć ich interakcje z modelem. Zgodnie z nowymi zasadami, zapytania API oznaczone jako naruszające regulamin będą natychmiast przerywane, a użytkownicy ChatGPT i Codex otrzymają monit o konieczności weryfikacji oznaczonych operacji.

Środki cyberbezpieczeństwa w całym sektorze

OpenAI oceniło Astrę jako bardziej wydajną i oszczędną pod względem tokenów niż obecny flagowy model GPT-5.6 Sol, jednocześnie informując, że Astra pozostaje jak dotąd najbardziej dostosowanym do zasad bezpieczeństwa modelem firmy. Obawy dotyczące autonomicznych działań modeli sztucznej inteligencji rozprzestrzeniły się na cały sektor. Firma Anthropic poinformowała wcześniej w tym roku, że jej model Mythos wykazywał ofensywne zdolności cybernetyczne i potwierdziła nieautoryzowany dostęp testowy z udziałem trzech zewnętrznych organizacji. 31 sierpnia Anthropic wstrzymało prace nad kilkoma modelami, aby wzmocnić infrastrukturę obronną. Ograniczenia te są następstwem listu otwartego podpisanego pod koniec sierpnia przez ponad 100 organizacji, wzywających do skoordynowanej globalnej obrony przed zagrożeniami cybernetycznymi napędzanymi przez modele AI.