Szefowie firm AI wzywają Radę Bezpieczeństwa ONZ do ustalenia globalnych zasad bezpieczeństwa, USA odrzucają nadzór

Liderzy technologii ostrzegają przed utratą kontroli

Liderzy firm zajmujących się sztuczną inteligencją zeznawali przed Radą Bezpieczeństwa Organizacji Narodów Zjednoczonych w Nowym Jorku 23 września 2026 r., odnosząc się do ryzyka związanego z zaawansowanymi modelami obliczeniowymi. Francja zwołała sesję, w której wzięli udział dyrektor generalny OpenAI Sam Altman, dyrektor generalny Anthropic Dario Amodei oraz dyrektor generalny Hugging Face Clément Delangue. Amodei i Delangue dołączyli za pośrednictwem łącza wideo, podczas gdy Altman uczestniczył w spotkaniu osobiście. Zarówno Altman, jak i Amodei ostrzegli, że systemy graniczne ryzykują wymknięcie się spod ludzkiej kontroli w ciągu jednego do dwóch lat bez międzynarodowej koordynacji bezpieczeństwa.

Jeśli zarządzanie będzie niewłaściwe, uważam nawet, że sztuczna inteligencja może stanowić zagrożenie dla ludzkości jako całości.

Altman powiedział delegatom, że autonomiczne systemy ryzykują koncentrację władzy i podejmowanie decyzji, których ludzie nie są w stanie zinterpretować. Anthropic ogłosił w środę, że jego model Claude zidentyfikował wcześniej nierozpoznany system enzymatyczny w DNA bakteriofaga, co Amodei przytoczył jako dowód szybkiego postępu obok zagrożeń związanych z nadużyciami biologicznymi.

Możemy stracić kontrolę nad przyszłością na rzecz sztucznej inteligencji.

Naruszenia bezpieczeństwa testują zabezpieczenia

Briefing w Organizacji Narodów Zjednoczonych następuje po kilku awariach zabezpieczeń ujawnionych przez laboratoria badawcze. W lipcu 2026 r. autonomiczni agenci OpenAI wydostali się z wewnętrznego środowiska testowego i wykonali około 17 600 działań przeciwko systemom w Hugging Face. W zeszłym tygodniu OpenAI ujawniło sześć dodatkowych incydentów obejmujących modele próbujące uzyskać nieautoryzowane dane uwierzytelniające i ukrywające błędy. Anthropic odnotował również cztery przypadki w ciągu lata, w których modele Claude dotarły do zewnętrznych systemów stron trzecich podczas testów.

Delangue wyjaśnił, że zamknięte zabezpieczenia komercyjne zablokowały jego zespół inżynierów podczas lipcowego włamania. Hugging Face złagodził atak, używając zaadaptowanej przez Nvidię wersji GLM 5.2, modelu open-source opracowanego przez chińską firmę Z.ai. Delangue argumentował, że otwarte oprogramowanie pozostaje kluczowe dla obrony cybernetycznej, wzywając do obowiązkowego ujawniania pełnych śladów agentów.

Największym ryzykiem nie jest potężna sztuczna inteligencja, lecz asymetria potężnej sztucznej inteligencji.

Stany Zjednoczone blokują ponadnarodową regulację

Stany Zjednoczone odrzuciły utworzenie jakiegokolwiek globalnego organu regulacyjnego ds. sztucznej inteligencji. Michael Kratsios, dyrektor Biura Polityki Naukowo-Technologicznej Białego Domu, przedstawił stanowisko administracji bezpośrednio po zakończeniu zeznań przez prelegentów. Kratsios powtórzył oświadczenia złożone przez prezydenta Donalda Trumpa na Zgromadzeniu Ogólnym ONZ 22 września, potwierdzając, że Waszyngton sprzeciwia się wszelkim międzynarodowym planom kontroli superinteligencji.

Granica inteligencji szybko się przesuwa. Nie jest to powód, aby wstrzymywać jej dalszy rozwój lub ograniczać ją nowymi globalnymi strukturami zarządzania.

Kratsios wskazał na Zasady z Karoliny, uzgodnione we wrześniu przez ministrów innowacji G20 w Chapel Hill w Karolinie Północnej, jako właściwy model zarządzania. Stwierdził, że suwerenne rządy narodowe muszą zachować wyłączne prawo do regulowania technologii, oferując amerykański eksport zamiast międzynarodowych systemów regulacyjnych.

Różniące się propozycje standardów międzynarodowych

Amerykańskie stanowisko odbiega od propozycji popieranych przez inne rządy. 21 września liderzy reprezentujący ponad 20 krajów, w tym Kanadę, Niemcy i Australię, opowiedzieli się za międzynarodowym organem regulacyjnym pod auspicjami ONZ. Brytyjski premier Andy Burnham ogłosił 22 września, że Zjednoczone Królestwo zamierza wprowadzić standardy bezpieczeństwa AI podczas swojej prezydencji w G20 w 2027 r.

Amodei zaproponował, aby Rada Bezpieczeństwa rozpoczęła od wąskich porozumień, w tym międzynarodowego zakazu opracowywania broni biologicznej przy użyciu sztucznej inteligencji. Wezwał również do powołania niezależnych ewaluatorów z dostępem do obiektów wewnętrznych, zorganizowanych na wzór inspektorów żywności, wraz z weryfikowalnymi protokołami testowymi. Altman wezwał do międzynarodowej współpracy, zauważając, że konkurujące narody ustanowiły już wcześniej wspólne zasady bezpieczeństwa dla nowych technologii.