Jensen Huang odrzuca ryzyko zagłady przez AI do 2030 roku i wzywa do szybkiego rozwoju technologii

Odrzucenie prognoz o katastrofalnym ryzyku

Dyrektor generalny Nvidii, Jensen Huang, odrzucił ostrzeżenia dotyczące zagrożeń egzystencjalnych związanych ze sztuczną inteligencją, twierdząc, że technologia ta nie niesie ze sobą ryzyka zakończenia cywilizacji ludzkiej w tej dekadzie. W wywiadzie dla Jo Ling Kent z CBS News, Huang ocenił prawdopodobieństwo zniszczenia świata przez sztuczną inteligencję do 2030 roku na zero procent. Menedżer argumentował, że branża technologiczna powinna rozwijać się w maksymalnym tempie, zamiast wstrzymywać badania i wdrażanie rozwiązań. Jego wypowiedzi stanowią bezpośrednią odpowiedź na argumenty badaczy i innych liderów branży, którzy opowiadali się za tymczasowym wstrzymaniem prac w celu oceny ryzyk systemowych. Huang odrzucił te przestrogi, sugerując, że krytycy promujący katastroficzne scenariusze kierują się innymi motywami.

Istnieje 0 procent szans na to, że świat skończy się w 2030 roku.

Zmiana tonu w porównaniu z wcześniejszymi wypowiedziami

Wywiad dla CBS odzwierciedla zmianę stanowiska Huanga w porównaniu z jego wypowiedziami z sierpnia. Podczas rozmowy z Donaldem Trumpem na szczycie All-In Summit, Huang nie użył określenia „oszustwo” w odniesieniu do obaw o bezpieczeństwo AI. Wówczas opisał apokaliptyczne prognozy jako nieoparte na nauce, odnosząc się do debaty poprzez dowody, a nie przypisywanie zerowego prawdopodobieństwa. W sierpniu stwierdził również, że firmy technologiczne powinny spowolnić rozwój, jeśli uznają, że ich wewnętrzne procesy stają się niekontrolowane. Jego najnowsze stanowisko wzywa sektor do jak najszybszego rozwoju, niezależnie od opinii innych. Pełny wywiad dla CBS ma zostać wyemitowany w niedzielę, a pierwsze szczegóły przekazała agencja Bloomberg.

Podzielone opinie w sektorze technologicznym

Spory dotyczące bezpieczeństwa sztucznej inteligencji i tempa jej wdrażania nadal dzielą liderów korporacji oraz urzędników. Były pracownik Anthropic, Jacob Coxon, stwierdził wcześniej, że programiści obawiają się, iż sztuczna inteligencja może zabić wszystkich przed końcem dekady. Główne laboratoria badawcze odpowiedziały na to publikacją ram bezpieczeństwa, progów wydajności i mechanizmów kontrolnych zaprojektowanych do działania w warunkach niepewności probabilistycznej. Z kolei Huang we wtorek na konferencji branżowej podkreślał pozytywny potencjał sztucznej inteligencji wraz z dyrektorem generalnym Salesforce, Markiem Benioffem. Donald Trump również sprzeciwił się spowalnianiu rozwoju, nazywając ostrzeżenia o bezpieczeństwie oszustwem, zapowiadając utworzenie sił ds. AI oraz stanowiska specjalnego pełnomocnika ds. AI, argumentując, że regulacje mogą doprowadzić do utraty przewagi technologicznej na rzecz Chin.

To nie ma sensu. Z pewnością mają ku temu inne powody, być może polityczne, a być może chcą po prostu zwrócić na siebie uwagę.

Standardy wydawnicze a zewnętrzne tempo prac

Obok wezwań do przyspieszenia, Huang zapewnił, że Nvidia i inne firmy będą nadal egzekwować wewnętrzne standardy gotowości przed udostępnieniem nowych systemów. Szef Nvidii stwierdził, że podmioty komercyjne nie dostarczałyby klientom produktów, gdyby systemy te były niekompletne lub niebezpieczne.

Musimy działać tak szybko, jak to możliwe, ale nigdy nie sprzedalibyśmy produktów, które nie są gotowe lub bezpieczne.

Eksperci ds. bezpieczeństwa wskazują, że poleganie na uznaniu korporacji pozostawia decyzje o gotowości wyłącznie w rękach firmy wprowadzającej produkt na rynek. Ramy spowolnienia prac zaproponowane przez badaczy bezpieczeństwa zostały stworzone specjalnie po to, aby wprowadzić zewnętrznych ewaluatorów i obiektywne wskaźniki, zamiast polegać na wewnętrznej samokontroli firm. Napięcie między przyspieszaniem rozwoju w celu wyprzedzenia konkurencji a ustanawianiem zewnętrznych kontroli bezpieczeństwa pozostaje kluczowym elementem dyskusji o zarządzaniu technologią.