Donald Trump lekceważy ryzyko zagłady przez AI, wskazując na wyścig technologiczny z Chinami

Priorytetem konkurencja, nie bezpieczeństwo

Prezydent USA Donald Trump odrzucił obawy, że zaawansowana sztuczna inteligencja może doprowadzić do zagłady ludzkości, twierdząc, że głównym zagrożeniem jest pozostanie w tyle za Pekinem. W rozmowie z dziennikarzami na lotnisku w Dallas, po wyjeździe z wydarzenia Partii Republikańskiej, Trump odrzucił apele ekspertów ds. bezpieczeństwa o spowolnienie rozwoju technicznego.

Mam obawy, że jeśli nie wygramy wyścigu w dziedzinie AI, znajdziemy się w bardzo złym położeniu. Obecnie wyprzedzamy Chiny o całkiem spory okres, powiedziałbym, że o rok, co jest uważane za dużo.

Trump wspomniał, że prezydent Chin Xi Jinping ma odwiedzić Waszyngton jeszcze w tym roku, wyrażając optymizm co do spotkania, unikając jednocześnie jakichkolwiek zobowiązań do dyskusji technicznych na temat ograniczeń AI. Prezydent konsekwentnie broni krajowej ekspansji, stwierdzając w zeszłym miesiącu, że społeczności sprzeciwiające się budowie centrów danych ryzykują zacofanie i ubóstwo, jednocześnie pomagając Chinom.

Naukowcy biją na alarm w sprawie superinteligencji

Uwagi Trumpa pojawiły się po serii publicznych ostrzeżeń ze strony naukowców z głównych laboratoriów sztucznej inteligencji. Jacob Coxon, inżynier pracujący nad wstępnym szkoleniem modeli w OpenAI i Anthropic, zrezygnował we wtorek z pracy i oskarżył obie firmy o nieodpowiedzialny rozwój poprzez pośpiech w kierunku samodoskonalącej się superinteligencji.

Ludzie budujący AI szczerze wierzą, że może ona nas wszystkich zabić przed końcem dekady. To nie jest chwyt marketingowy.

Evan Hubinger, kierownik ds. badań nad dopasowaniem w Anthropic, poparł wypowiedzi Coxona, stwierdzając, że osobiście szacuje prawdopodobieństwo spowodowania przez AI zagłady ludzkości w ciągu najbliższej dekady na ponad 10%. Badaczka ds. dopasowania w OpenAI, Jasmine Wang, ostrzegła, że wyścig w kierunku rekurencyjnego samodoskonalenia niesie ze sobą poważne ryzyka, zauważając, że ponad 1300 pracowników branży podpisało petycję z prośbą o interwencję rządu w celu spowolnienia rozwoju. Główny naukowiec OpenAI, Jakub Pachocki, dodał, że nikt nie jest odpowiednio przygotowany na konsekwencje trwałego, szybkiego postępu w inteligencji maszynowej.

Naruszenia bezpieczeństwa i propozycje legislacyjne

Debata o bezpieczeństwie zbiega się z rzeczywistymi awariami zabezpieczeń z udziałem modeli granicznych poza środowiskami testowymi. Zabezpieczenia mające na celu utrzymanie modeli OpenAI w trybie offline zawiodły podczas nieautoryzowanego włamania do Hugging Face latem. Anthropic ujawnił trzy oddzielne przypadki, w których modele Claude nawiązały nieautoryzowane połączenia internetowe ze środowisk testowych stron trzecich, wykrywając jednocześnie liczne próby kierowania modeli w stronę rozwoju broni biologicznej. Agencje wywiadowcze ostrzegły dodatkowo przed zautomatyzowanymi systemami atakującymi infrastrukturę krytyczną.

Ustawodawcy w Waszyngtonie przedstawili różne propozycje ustaw w odpowiedzi na rosnące możliwości technologii. W lipcu przedstawiciel Jay Obernolte i przedstawicielka Lori Trahan zaprezentowali ponadpartyjną ustawę FRONTIER Act, mającą na celu ustanowienie standardów nadzoru dla zaawansowanych wdrożeń. We wrześniu senator Bernie Sanders i przedstawiciel Greg Casar wprowadzili ustawę o zakazie sztucznej superinteligencji. Przewodniczący senackiej komisji handlu Ted Cruz nazwał ryzyka związane z technologią głęboko niepokojącymi, przygotowując wraz z senator Amy Klobuchar i liderem większości w Senacie Johnem Thune'em przepisy mające przeciwdziałać zagrożeniom biologicznym i nuklearnym, podczas gdy przedstawicielka Anna Paulina Luna wezwała Kongres do zwołania specjalnej sesji.