Dario Amodei z Anthropic proponuje trzyetapowy plan spowolnienia rozwoju sztucznej inteligencji

Wykładniczy wzrost i zagrożenia sieciowe

Prezes Anthropic, Dario Amodei, ostrzegł, że sztuczna inteligencja rozwija się w tempie wykładniczym, co wymaga od sektora technologicznego natychmiastowego wdrożenia zabezpieczeń. Amodei stwierdził, że bez celowego spowolnienia roje autonomicznych agentów mogą przejąć kontrolę nad infrastrukturą internetową w ciągu 6 do 12 miesięcy (około 180 dni). Taki scenariusz mógłby wygenerować setki miliardów dolarów strat w sieciach komputerowych, nawiązując do podatności zaobserwowanych podczas wcześniejszego incydentu z udziałem OpenAI i Hugging Face. W zapowiedzi wywiadu dla CBS News Sunday Morning, Amodei porównał trajektorię możliwości AI do sekwencji szybkich podwojeń: od jednego do dwóch, czterech, ośmiu, 16 i 32. Podkreślił, że choć twórcy nie powinni wpadać w panikę ani natychmiast zamrażać wszystkich prac, stroma krzywa rozwoju stanowi pilny sygnał ostrzegawczy.

Nie sądzę, bym w pełni rozumiał, co tak szybki postęp naprawdę oznacza.

Trzy fazy regulowanego rozwoju

Aby zarządzać tempem wydawania modeli granicznych, Amodei opublikował esej proponujący ustrukturyzowany plan trzyfazowy dla programistów i decydentów. Pierwsza faza koncentruje się na wbudowanych ewaluatorach, w ramach której Anthropic jednostronnie zobowiązuje się do przyznania niezależnym zewnętrznym ewaluatorom stałego dostępu do testowania i weryfikacji systemów. Firma wezwała również rządy do prawnego wymuszenia na wszystkich laboratoriach sztucznej inteligencji przyjęcia identycznego dostępu dla ewaluatorów. Druga faza wzywa do demokratycznej koordynacji w sektorze prywatnym, wymagając od firm zajmujących się sztuczną inteligencją ustanowienia i egzekwowania wspólnych standardów bezpieczeństwa. Trzecia faza rozszerza ten reżim na koordynację globalną między rządami krajowymi, ustanawiając międzynarodową równość w zakresie zasad bezpieczeństwa dla modeli granicznych.

Utrzymanie konkurencyjności i czas na bezpieczeństwo

Amodei argumentował, że moderowanie wzrostu możliwości daje badaczom krytyczny czas na rozwiązanie wyzwań związanych z dopasowaniem (alignment), zanim modele osiągną niebezpieczne progi. Zyskanie dodatkowego roku lub dwóch znacząco zmniejszyłoby ryzyko systemowe bez eliminowania komercyjnej rentowności firm zajmujących się sztuczną inteligencją. Podkreślił, że skoordynowana strategia tempa pozwala twórcom na prowadzenie niezbędnej prewencji ryzyka przy jednoczesnym zachowaniu przywództwa Stanów Zjednoczonych w technologiach granicznych. Amodei zauważył, że dotychczasowe wysiłki na rzecz bezpieczeństwa, polegające jedynie na inwestowaniu w zabezpieczenia, nie są już wystarczające bez kontrolowania tempa poprawy możliwości modeli.

Musimy spowolnić tempo, w jakim poprawiamy możliwości modeli AI. Postęp nadal będzie wydawał się szybki, a my musimy mądrze wykorzystać czas, który zyskamy.

Reakcja branży i debata o zarządzaniu

Propozycja szybko zyskała publiczne poparcie innych czołowych postaci technologii, w tym lidera SpaceX Elona Muska i prezesa OpenAI Sama Altmana. Anthropic zauważył, że jego wcześniejsze ostrzeżenia i rzecznictwo polityczne spotykały się z oskarżeniami o sensacjonalizm, nadmierny pesymizm i zawłaszczanie regulacyjne ze strony krytyków branżowych. Amodei podtrzymał, że sztuczna inteligencja ma potencjał, by stać się korzystnym przełomem technologicznym w dziedzinach takich jak opieka zdrowotna, ale argumentował, że jej ogromna moc wymaga proaktywnego zarządzania. Firma kontynuuje swoje zobowiązania w zakresie zewnętrznej ewaluacji w fazie pierwszej, jednocześnie wzywając konkurentów i międzynarodowych regulatorów do wdrożenia skoordynowanych mechanizmów kontroli tempa.