Anthropic wzywa do globalnego zamrożenia AI, naprawiając relacje z Białym Domem przed IPO
Anthropic, gigant AI z San Francisco wyceniany na około bilion dolarów, wezwał w czwartek do globalnie skoordynowanego wstrzymania prac nad granicznymi modelami sztucznej inteligencji, ostrzegając, że samodoskonalące się modele mogą wymknąć się spod ludzkiej kontroli. Propozycja pojawia się, gdy firma łagodzi wielomiesięczny spór z administracją Trumpa i przygotowuje się do głośnego debiutu giełdowego.
Globalne wezwanie Anthropica do wstrzymania prac
Anthropic, firma AI z San Francisco wyceniana na około bilion dolarów, zaproponowała w czwartek globalnie skoordynowane spowolnienie lub tymczasowe wstrzymanie rozwoju granicznej AI. W poście na blogu i raporcie swojego Instytutu Anthropica firma argumentowała, że takie wstrzymanie „umożliwi strukturom społecznym i badaniom nad dopasowaniem AI nadążenie za postępem technologii”. Wezwanie nawiązuje do listu otwartego z 2023 roku podpisanego przez Elona Muska, ale Anthropic podkreśla, że każde wstrzymanie musi być wielostronne, weryfikowalne i oparte na jasnych kryteriach – w przeciwnym razie po prostu przekazałoby przywództwo tym, którzy kontynuują rozwój.
Uważamy, że dla świata byłoby dobrze mieć możliwość spowolnienia lub tymczasowego wstrzymania rozwoju granicznej AI.
Ryzyko samodoskonalenia
Konkretnym bodźcem, który identyfikuje Anthropic, jest rekurencyjne samodoskonalenie – systemy AI, które mogą autonomicznie projektować i budować własnych następców. Firma ostrzega, że ten kamień milowy „może nadejść szybciej, niż większość instytucji jest na to przygotowana” i że „pełne rekurencyjne samodoskonalenie może zwiększyć ryzyko utraty przez ludzi kontroli nad systemami AI”. Jako miarę tego, jak blisko jest już pętla, Anthropic ujawnił, że od maja ponad 80% kodu scalonego z własną bazą kodu zostało napisane przez jego model Claude. „Jeśli model już pisze zdecydowaną większość kodu, który buduje następny model, pętla między systemem a jego własnym ulepszeniem nie jest już teoretyczna, tylko częściowa” – powiedziała firma.
Zagadka koordynacji
Kluczowym problemem jest egzekwowanie. Bez globalnego mechanizmu obejmującego zasady, weryfikację i organ nadzorczy, każde wstrzymanie byłoby nieskuteczne. Anthropic przyznaje, że taka infrastruktura nie istnieje, a jego bezpośredni konkurenci – z których wielu inwestuje setki miliardów w centra danych AI – nie wykazują ochoty, by zwolnić. Firma twierdzi, że tylko porozumienie między wieloma wiodącymi laboratoriami w wielu krajach, „przede wszystkim Stanami Zjednoczonymi i Chinami”, mogłoby zadziałać.
Instytut Anthropica zapowiedział, że będzie teraz współpracować z partnerami nad zaprojektowaniem systemów weryfikacji, które wiarygodne wstrzymanie by wymagało.Bez globalnego mechanizmu koordynacji firmy i rządy będą musiały podejmować trudne decyzje dotyczące bezpieczeństwa pod presją konkurencyjną i geopolityczną.
Odwilż z Białym Domem
Propozycja wstrzymania pojawia się, gdy Anthropic pracuje nad naprawieniem napiętych relacji z administracją Trumpa przed planowanym debiutem giełdowym. W marcu Departament Obrony uznał firmę za „ryzyko dla łańcucha dostaw” po tym, jak odmówiła udostępnienia swojej AI do celów inwigilacji krajowej i w pełni autonomicznej broni. Napięcia jednak złagodniały od czasu, gdy dyrektor generalny Dario Amodei odwiedził Biały Dom w połowie kwietnia. Administracja zaprosiła nawet Amodeia na podpisanie rozporządzenia wykonawczego dotyczącego AI 21 maja, choć Trump odwołał wydarzenie; podpisał rozporządzenie we wtorek, a Anthropic stwierdził, że nie może się doczekać „współpracy” przy jego wdrażaniu. Firma rozmawiała także z dyrektorem ds. cyberbezpieczeństwa narodowego Seanem Cairncrossem o tym, jak jej potężny model Mythos mógłby chronić infrastrukturę krytyczną. Niemniej oznaczenie ryzyka dla łańcucha dostaw pozostaje w mocy, a Pentagon „energicznie” broni się przed pozwem Anthropica.
Ilekroć rząd sygnalizuje, że zmywa ręce od firmy, to dla niej poważny problem.
- Departament Obrony uznaje Anthropic za „ryzyko dla łańcucha dostaw”, zakazując wykonawcom wojskowym korzystania z jego AI.
- Dyrektor generalny Dario Amodei odwiedza Biały Dom, aby omówić współpracę, pierwsze spotkanie od wybuchu sporu.
- Biały Dom planował podpisanie rozporządzenia wykonawczego w sprawie AI z udziałem Amodeia, ale zostało odwołane z powodu sprzeciwu Trumpa.
- Trump podpisuje poprawione rozporządzenie wykonawcze w sprawie AI; Anthropic mówi, że nie może się doczekać współpracy.
- Anthropic proponuje globalne, weryfikowalne wstrzymanie rozwoju granicznej AI.
Sprzeciw i sceptycyzm
Propozycja spotkała się już z krytyką ze strony konkurentów z branży i niektórych urzędników Białego Domu, którzy argumentują, że wykorzystywanie bezpieczeństwa do spowolnienia to przykrywka dla osłabiania konkurencji pod pozorem ochrony społeczeństwa. Krytycy wskazują również na selektywne udostępnienie Mythosa – obecnie ograniczonego do małej liczby zweryfikowanych organizacji ze względu na jego możliwości cyberbezpieczeństwa – jako chwyt marketingowy promujący produkty firmy. Anthropic utrzymuje jednak, że jego ostrzeżenia są oparte na badaniach nowo utworzonego Instytutu Anthropica, którego misją jest „informowanie świata” o ryzykach w miarę postępu AI. To, czy uda się uzgodnić wstrzymanie, zanim pętla samodoskonalenia jeszcze bardziej się zacieśni, pozostaje całkowicie otwarte.
