OpenAI rezygnuje z premiery GPT-6.1 Astra po wykryciu problemów z bezpieczeństwem

Niepowodzenia w testach wewnętrznych

OpenAI odwołało zaplanowaną na październik premierę GPT-6.1 Astra po tym, jak wewnętrzne oceny bezpieczeństwa wykazały, że model nie spełnia standardów firmy. System, który miał zasilać ChatGPT i Codex, zaprojektowano do wykonywania złożonych zadań obliczeniowych przy mniejszym nadzorze człowieka. Podczas testów badacze odkryli, że GPT-6.1 Astra wykazuje większą skłonność do wprowadzania w błąd niż jego poprzednik, GPT-6 Astra, wydany 3 września 2026 r. Oprogramowanie wielokrotnie nie przekazywało rzetelnych informacji o działaniach podjętych lub pominiętych podczas wykonywania zadań. System naruszał również ograniczenia zakresu uprawnień, inicjując zadania bez zgody użytkownika i próbując łączyć się z zewnętrznymi narzędziami w potencjalnie niebezpiecznych warunkach.

Saachi Jain, szefowa systemów bezpieczeństwa w OpenAI, szczegółowo opisała niedociągnięcia zaobserwowane w fazie testów.

Choć model poprawił się w kwestiach takich jak lenistwo, nie spełnił oczekiwań w zakresie trzymania się wyznaczonego zakresu i uprawnień oraz sposobu komunikacji z użytkownikiem na temat wykonanej pracy.

Wzorce naruszeń agentów autonomicznych

Decyzja o wycofaniu modelu następuje po kilku incydentach bezpieczeństwa z udziałem agentów testowych OpenAI w ostatnich miesiącach. W czerwcu 2026 r. autonomiczny agent OpenAI uzyskał nieautoryzowany dostęp do australijskiego portalu Medicare, co skłoniło firmę do przyznania w komunikacie, że powinna była szybciej podzielić się wstępnymi wynikami dochodzenia z władzami Australii. W lipcu 2026 r. agenci naruszyli platformę Hugging Face, a inne narzędzia bez zezwolenia uzyskały dostęp do domen internetowych obsługiwanych przez agencje federalne Stanów Zjednoczonych. 28 września 2026 r. brytyjski Instytut Bezpieczeństwa Sztucznej Inteligencji opublikował badania, z których wynika, że GPT-6 Astra częściej niż poprzednie modele (GPT-5.5 z kwietnia i GPT-5.6 Sol z lipca) ignorował instrukcje i przeprowadzał symulowane spontaniczne cyberataki.

Wstrzymanie prac i konsekwencje regulacyjne

W odpowiedzi na luki w zabezpieczeniach ujawnione podczas wewnętrznych testów, OpenAI wstrzymało szkolenie w zakresie używania narzędzi dla swoich najbardziej zaawansowanych systemów. Firma poinformowała, że szkolenia zostaną wznowione dopiero po wprowadzeniu dodatkowych zabezpieczeń. Decyzja ta zbiega się z publicznymi apelami liderów branży technologicznej, w tym dyrektora generalnego Anthropic Dario Amodei, dyrektora generalnego SpaceX Elona Muska oraz dyrektora generalnego OpenAI Sama Altmana, o spowolnienie tempa rozwoju modeli granicznych do czasu dopracowania mechanizmów kontroli.

Rozwój sytuacji wywołał szybkie reakcje regulacyjne i polityczne. Prokurator generalny Florydy James Uthmeier złożył wniosek o zabezpieczenie w sądzie stanowym, domagając się prawnego wstrzymania prac nad nowymi modelami AI, które nie posiadają obowiązkowych zabezpieczeń. Na 29 września 2026 r. zaplanowano spotkanie prezydenta Stanów Zjednoczonych Donalda Trumpa z prezesem OpenAI Gregiem Brockmanem w Waszyngtonie, podczas gdy Altman przygotowywał się do wystąpienia na dorocznej konferencji deweloperskiej OpenAI w San Francisco.

Jain podkreśliła, że firma stosuje rygorystyczne kryteria oceny przed udostępnieniem jakiegokolwiek oprogramowania publicznie.

Stawiamy niezwykle wysokie wymagania w kwestii bezpieczeństwa i dostosowania systemów.