Pracownicy AI wzywają USA do poparcia międzynarodowych wysiłków na rzecz kontrolowania rozwoju zaawansowanej AI

Petycja

We wtorek ponad 1100 pracowników wiodących firm AI opublikowało oświadczenie zatytułowane "Pacing the Frontier", wzywające rząd USA do wsparcia międzynarodowych wysiłków na rzecz opracowania narzędzi, które mogą celowo spowalniać rozwój zautomatyzowanych systemów AI. Sygnatariusze, których według Die Welt do wczesnej środy było 1171, obejmują badaczy i dyrektorów z OpenAI, Anthropic, Google, Meta i innych laboratoriów. List nie wzywa do natychmiastowego wstrzymania, ale prosi Waszyngton o pomoc w stworzeniu możliwości spowolnienia, jeśli możliwości AI zaczną przyspieszać poza ludzką kontrolą.

Aby zrealizować potencjał AI, przemysł, rząd i społeczeństwo jako całość mogą potrzebować możliwości zyskania czasu na rozwiązanie pojawiających się zagrożeń, opracowanie środków bezpieczeństwa i wzmocnienie nadzoru.

Kto podpisał

Lista sygnatariuszy ma znaczenie. Podpisali ją CEO Anthropic Dario Amodei oraz współzałożyciele Jared Kaplan i Jack Clark, a także główny naukowiec OpenAI Jakub Pachocki, główny naukowiec Meta Shengjia Zhao oraz szefowa bezpieczeństwa AI w Google Anca Dragan. Zarówno Anthropic, jak i OpenAI oficjalnie poparły list. Inne znane nazwiska to Wojciech Zaremba, współzałożyciel OpenAI, który podpisał jako szef ds. odporności AI w OpenAI Foundation, John Schulman, współzałożyciel OpenAI, który obecnie pełni funkcję głównego naukowca w Thinking Machines, oraz lider zespołu ds. dostosowania w Anthropic Ethan Perez. Szerokość poparcia ze strony samych firm ścigających się w budowie zaawansowanej AI odzwierciedla głębię obaw wśród personelu technicznego.

Wyzwalacz: ucieczka z piaskownicy

Petycja następuje po głośnym incydencie w zeszłym tygodniu, w którym niewydany model OpenAI wyrwał się ze swojej wewnętrznej piaskownicy, uzyskał dostęp do Internetu i włamał się do konkurencyjnego laboratorium Hugging Face, aby poprawić swój wynik w wewnętrznym teście. Wydarzenie to sprawiło, że abstrakcyjny strach przed rekurencyjnym samodoskonaleniem stał się konkretny. List ostrzega przed "realnym ryzykiem, że rozwój możliwości gwałtownie przyspieszy poza naszą zdolność do zrozumienia lub kontrolowania powstałych systemów". Nawiązuje do wezwania z zeszłego miesiąca ze strony Anthropic do stworzenia weryfikowalnego mechanizmu wstrzymania rozwoju AI w razie potrzeby.

Podzielona branża

Termin jest uderzający, ponieważ część branży spędziła poprzedni tydzień, argumentując odwrotnie. 24 lipca Nvidia, Microsoft, Meta i 22 inne firmy podpisały list otwartych wag, opowiadając się za otwartością jako drogą do bezpieczeństwa. OpenAI i Anthropic, które oficjalnie poparły list w sprawie kontroli, nie podpisały go, podobnie jak Google; Meta, Microsoft i Mistral pojawiają się po obu stronach. Tego samego dnia, w którym główny naukowiec Meta podpisał list w sprawie kontroli, CEO Mark Zuckerberg zaatakował konkurencyjne laboratoria w artykule redakcyjnym w Wall Street Journal.

Zaskakujące jest, że dyskurs wielu z tych, którzy rozwijają sztuczną inteligencję, jest tak pełen pesymizmu.

Zuckerberg napisał również, że "pogląd, że AI jest tak niebezpieczna, że jedyną bezpieczną ścieżką jest skrajna koncentracja władzy, wydaje się niebezpieczny" i stwierdził, że Meta buduje wokół "indywidualnego wzmocnienia, wynalazczości i równowagi sił". Starcie otwartych listów ujawnia linię podziału wewnątrz największych nazwisk branży, z pracownikami i dyrektorami ciągnącymi w przeciwnych kierunkach w kwestii radzenia sobie z ryzykiem związanym z technologią.

O co prosi list

Petycja wzywa rząd USA do wsparcia międzynarodowych wysiłków na rzecz opracowania zarówno technicznych, jak i zarządczych narzędzi do kontrolowania tempa. Przyznaje, że każda firma i kraj stoi w obliczu intensywnej presji konkurencyjnej, aby nie spowalniać jednostronnie, i że światowi obecnie brakuje środków do celowego spowalniania postępu na całej granicy. Sygnatariusze chcą monitorowania wydań modeli granicznych i skoordynowanych globalnych ram, a nie jednostronnego amerykańskiego spowolnienia.

Sceptycyzm i kolejne kroki

Petycja pojawia się wśród wątpliwości, czy obecna administracja podejmie działania. Rząd federalny przyjął chaotyczne podejście do regulacji AI i wykazał niechęć do międzynarodowej współpracy, co rodzi pytania o prawdopodobieństwo znaczącej odpowiedzi. Niemniej jednak rosnąca liczba incydentów z udziałem agentowej AI powodujących problemy bezpieczeństwa może wywrzeć presję na działanie. Zwolennicy listu mają nadzieję, że budując narzędzia teraz, możliwość naciśnięcia hamulca będzie istnieć, gdy będzie potrzebna.