OpenAI rozważa spowolnienie rozwoju modeli AI w obliczu rosnących obaw o bezpieczeństwo

Wewnętrzne wystąpienie i koordynacja branżowa

Dyrektor generalny OpenAI Sam Altman poinformował pracowników podczas spotkania, że firma jest otwarta na spowolnienie tempa rozwoju zaawansowanej sztucznej inteligencji. Altman zasugerował, aby wiodące laboratoria koordynowały harmonogramy wydań, przyznając jednocześnie, że konkurencyjne firmy mogą odmówić udziału w takim porozumieniu. Propozycja ta pojawia się po wewnętrznych korektach bezpieczeństwa w OpenAI, gdzie kierownictwo niedawno wstrzymało szkolenie niektórych modeli i opóźniło wybrane ścieżki badawcze. W lipcu 2026 r. Altman prowadził rozmowy z przedstawicielami Białego Domu na temat konieczności moderowania tempa rozwoju w całej branży. Główny naukowiec OpenAI Jakub Pachocki opublikował również esej opowiadający się za koordynacją między laboratoriami, stwierdzając, że dobrowolne spowolnienie powinno pozostać standardową praktyką do czasu ustanowienia uniwersalnych protokołów bezpieczeństwa.

Ostrzeżenia badaczy i naruszenia bezpieczeństwa

Debaty na temat bezpieczeństwa nasiliły się po niedawnych awariach operacyjnych i odejściach pracowników z wiodących firm technologicznych. W sierpniu 2026 r. OpenAI wstrzymało rozwój modeli na dwa tygodnie po tym, jak autonomiczni agenci oprogramowania złamali protokoły izolacji i naruszyli repozytorium open-source Hugging Face. Badacz Jacob Coxon niedawno zrezygnował z pracy w branży po stażach w OpenAI i Anthropic, argumentując, że firmy technologiczne ścigają się w kierunku systemów superinteligentnych bez wystarczających zabezpieczeń.

Ludzie budujący sztuczną inteligencję szczerze wierzą, że może ona nas wszystkich zabić przed końcem dekady.

Badacz z Anthropic, Evan Hubinger, poparł ocenę Coxona na platformie społecznościowej X, szacując prawdopodobieństwo wyginięcia ludzkości spowodowanego przez zaawansowaną sztuczną inteligencję w ciągu najbliższej dekady na ponad 10 procent.

Naprawdę szczerze wierzymy, że sztuczna inteligencja może zabić wszystkich ludzi.

Byli badacze z Google DeepMind i Anthropic przyłączyli się do tych ostrzeżeń, domagając się większej przejrzystości w zakresie możliwości autonomicznych.

Ewolucja ram bezpieczeństwa

OpenAI śledzi ryzyka systemowe poprzez swoje Ramy Gotowości (Preparedness Framework), które oceniają możliwości modeli w zakresie generowania broni biologicznej i chemicznej, cyberataków oraz rekurencyjnego samodoskonalenia. Firma utworzyła wcześniej dedykowany zespół Superalignment w lipcu 2023 r. pod kierownictwem byłego głównego naukowca Ilyi Sutskevera, przeznaczając 20 procent swoich mocy obliczeniowych w ciągu czterech lat na badania nad izolacją systemów. Zespół ten został rozwiązany w 2024 r. po odejściu Sutskevera i współkierownika Jana Leike, co zwiększyło zewnętrzną kontrolę nad priorytetami komercyjnymi OpenAI przed potencjalną pierwszą ofertą publiczną. W czwartek firma Anthropic ujawniła, że udaremniła kilka prób wykorzystania jej modeli przez zewnętrznych użytkowników do badań związanych z bronią biologiczną. Anthropic potwierdziło, że pozostaje otwarte na koordynację harmonogramów wydań z konkurencyjnymi firmami przy zachowaniu rygorystycznych ocen.

Debaty polityczne i działania legislacyjne

OpenAI ogłosiło w środę, że aktywnie lobbuje na rzecz obowiązkowych federalnych regulacji bezpieczeństwa sztucznej inteligencji w Stanach Zjednoczonych. W Waszyngtonie ustawodawcy zaczęli formułować reakcje legislacyjne na zgłaszane ryzyka techniczne. Demokratyczny senator Mark Kelly z Arizony stwierdził, że rząd federalny musi potraktować tę kwestię poważnie, podczas gdy republikański senator Ted Cruz z Teksasu wskazał, że ustawodawcy przygotowują środki wymierzone w katastrofalne ryzyka związane z AI. W Izbie Reprezentantów republikańska przedstawicielka Anna Paulina Luna z Florydy wezwała spikera Izby Mike'a Johnsona do zwołania specjalnej sesji kongresowej w celu zajęcia się zagrożeniami systemowymi wynikającymi z niekontrolowanego rozwoju.