Anthropic wzywa do globalnego wstrzymania zaawansowanego rozwoju AI, powołując się na ryzyko rekurencyjnego samodoskonalenia
Amerykańska firma AI Anthropic zaproponowała globalny mechanizm koordynacji w celu spowolnienia lub zawieszenia rozwoju systemów AI na granicy możliwości, argumentując, że społeczeństwo potrzebuje czasu na dostosowanie się do szybkiego postępu technologicznego.
Propozycja
Anthropic, z siedzibą w San Francisco twórca chatbota Claude, opublikował w czwartek, 4 czerwca, tekst za pośrednictwem swojego think tanku Anthropic Institute, opowiadając się za światowym spowolnieniem lub tymczasowym zawieszeniem rozwoju zaawansowanej AI. Firma argumentowała, że takie wstrzymanie pozwoliłoby strukturom społecznym i badaniom nad dostosowaniem nadążyć za postępem technologicznym.
Wierzymy, że dla świata byłoby dobrze mieć możliwość spowolnienia lub tymczasowego zawieszenia rozwoju przełomowej AI, aby struktury społeczne i badania nad dostosowaniem mogły nadążyć za postępem technologii.
Firma podkreśliła, że każde wstrzymanie musi być skoordynowane globalnie. Gdyby jedna firma jednostronnie wstrzymała prace, konkurenci po prostu by ją wyprzedzili. Anthropic wymienił OpenAI, Google i chińskie DeepSeek wśród swoich zaciekłych rywali.
Ryzyko rekurencyjnego samodoskonalenia
Anthropic uzasadnił swoją propozycję, ujawniając wewnętrzne dane ilustrujące możliwość pewnego dnia osiągnięcia „rekurencyjnego samodoskonalenia” – punktu, w którym systemy AI staną się zdolne do szkolenia własnych następców, ograniczając ingerencję człowieka. Firma zasugerowała, że niebezpieczeństwo może wynikać z wymknięcia się tej samogeneracji spod kontroli lub odejścia od interesów ludzkości.
„Jeśli obecne trendy się utrzymają” – napisała firma – taki scenariusz staje się „prawdopodobny”, choć dodała, że nie ma gwarancji, że jest on na horyzoncie.
Precedens traktatu nuklearnego
Aby poprzeć swoją argumentację, Anthropic powołał się na precedens Traktatu o Siłach Jądrowych Pośredniego Zasięgu (INF). Zauważył, że ustanowienie tych ram zajęło dziesięciolecia, ale w przypadku AI czas jest bardziej naglący, którą opisał jako „znacznie łatwiejszą do ukrycia niż silosy rakietowe”.
Wobec braku globalnego mechanizmu koordynacji firmy i rządy będą musiały podejmować trudne decyzje dotyczące bezpieczeństwa, pod presją konkurencji i geopolitycznych interesów.
Polityczne i prawne przeszkody
Oczekuje się, że propozycja spotka się z silnym oporem w Stanach Zjednoczonych, gdzie wielu urzędników i liderów technologicznych odrzuca jakiekolwiek spowolnienie, które mogłoby dać Chinom decydującą przewagę. Donald Trump stwierdził jednak, że podczas niedawnej wizyty w Pekinie omawiał z Chinami możliwość współpracy w zakresie bezpieczeństwa AI.
Anthropic jest obecnie w sporze prawnym z Departamentem Obrony USA w sprawie nieograniczonego wojskowego wykorzystania swojej technologii, na co firma się nie zgodziła. Pentagon następnie sklasyfikował Anthropic jako „zagrożenie dla bezpieczeństwa łańcucha dostaw”, co firma kwestionuje w sądzie. Firma ograniczyła również wydanie Mythos, swojego najbardziej zaawansowanego modelu, aby wdrożyć poprawki cyberbezpieczeństwa. W poniedziałek Anthropic złożył wniosek o pierwszą ofertę publiczną.
Sceptycyzm branży
Założona przez dysydentów z OpenAI, Anthropic wypracowała sobie wizerunek laboratorium skoncentrowanego na etyce i bezpieczeństwie. Spotyka się z krytyką ze strony przedstawicieli branży i urzędników Białego Domu, którzy oskarżają ją o wyolbrzymianie ryzyka, a niektórzy nazywają jej podejście strategią „marketingu strachu” w wyścigu z OpenAI o wejście na giełdę.
