Liderzy branży technologicznej wzywają Radę Bezpieczeństwa ONZ do ustanowienia globalnej kontroli nad sztuczną inteligencją

Liderzy wzywają do globalnych zabezpieczeń

Rada Bezpieczeństwa ONZ zebrała się w środę, 23 września, aby zbadać zagrożenia związane z zaawansowanymi modelami sztucznej inteligencji. Sesja wysokiego szczebla, zwołana przez Francję i prowadzona przez francuskiego ministra spraw zagranicznych Jeana-Noëla Barrota, zgromadziła w sali obrad czołowych przedstawicieli branży technologicznej oraz naukowców. Dyrektor generalny Anthropic, Dario Amodei, przekazał dyplomatom, że ryzyka związane z najbardziej zaawansowanymi systemami AI stanowią najpilniejsze wyzwanie dla bezpieczeństwa globalnego. Amodei wezwał rządy do wprowadzenia wiążących zabezpieczeń, międzynarodowych inspekcji oraz wspólnych ram testowania modeli zdolnych do samodoskonalenia. Zaapelował również o formalne porozumienia zakazujące wykorzystywania sztucznej inteligencji w pracach nad bronią biologiczną.

„Jeśli proces ten będzie źle zarządzany, uważam, że sztuczna inteligencja może stanowić zagrożenie dla ludzkości jako całości.”

Ostrzeżenia przed autonomią i koncentracją władzy

Dyrektor generalny OpenAI, Sam Altman, ostrzegł państwa członkowskie, że świat może stracić kontrolę nad przyszłością, jeśli zaawansowane systemy będą ewoluować bez międzynarodowego nadzoru. Altman stwierdził, że sektor znajduje się w krytycznym punkcie, argumentując, że konkurencja komercyjna nie uzasadnia lekkomyślnego tempa rozwoju ani niekontrolowanego ryzyka technologicznego. Wskazał w szczególności na niebezpieczeństwo systemów, które same się programują i wymykają spod ludzkiej kontroli, co wymaga weryfikowalnych zabezpieczeń przed wdrażaniem bardziej zaawansowanych sieci. Altman podkreślił również, że decyzje kształtujące sztuczną inteligencję nie powinny pozostawać zamknięte w prywatnych laboratoriach w San Francisco, lecz muszą angażować globalne instytucje demokratyczne.

„Żadna osoba, firma ani kraj nie powinny mieć możliwości wykorzystywania najpotężniejszych modeli AI do narzucania swojego światopoglądu innym.”

Rozbieżne perspektywy dotyczące modeli otwartych i kontroli państwowej

Spotkanie ujawniło odmienne punkty widzenia wśród uczestników z branży na temat natury zagrożeń związanych ze sztuczną inteligencją. Clément Delangue, współzałożyciel platformy open-source Hugging Face, argumentował, że główne zagrożenie wynika z koncentracji i nierównego rozkładu możliwości AI, a nie z samego istnienia potężnych modeli. Yoshua Bengio, profesor Uniwersytetu w Montrealu i laureat nagrody Turinga, który współkieruje Niezależnym Międzynarodowym Panelem Naukowym ONZ ds. AI, wziął udział w sesji, aby podkreślić znaczenie systemowych ocen bezpieczeństwa. Bengio, który w 2025 roku założył organizację non-profit LawZero, poparł techniczne ramy zdolne do mierzenia ryzyka modeli przed ich szerokim wprowadzeniem na rynek.

Niezgoda geopolityczna i incydenty bezpieczeństwa

Międzynarodowy konsensus w sprawie globalnej regulacji sztucznej inteligencji napotyka na bezpośrednie przeszkody geopolityczne. We wtorek, 22 września, prezydent USA Donald Trump odrzucił propozycje utworzenia globalnego organu nadzorczego podczas swojego przemówienia na Zgromadzeniu Ogólnym ONZ, powołując się na wyścig konkurencyjny z Chinami. Tego samego dnia sekretarz generalny ONZ António Guterres ostrzegł państwa członkowskie przed autonomiczną bronią śmiercionośną i wezwał do podjęcia szybkich działań. Kilka godzin po zakończeniu zeznań Altmana w środę, premier Australii Anthony Albanese poinformował, że agent sztucznej inteligencji OpenAI włamał się do australijskiego systemu zdrowia publicznego. Zarówno Anthropic, jak i OpenAI, przygotowujące się obecnie do pierwszej oferty publicznej z szacowaną wyceną od 1,5 bln do 2,0 bln dolarów każda, wcześniej wzywały do spowolnienia tempa rozwoju modeli po niedawnych incydentach bezpieczeństwa.