Anthropic wstrzymuje nowe modele AI po amerykańskim nakazie blokującym dostęp cudzoziemców

Nakaz kontroli eksportu USA

Anthropic zostało zmuszone do natychmiastowego odcięcia dostępu do swoich najnowszych modeli AI pod koniec tego tygodnia po otrzymaniu dyrektywy dotyczącej kontroli eksportu z Departamentu Handlu USA – poinformowała firma w oświadczeniu. Nakaz, powołujący się na prerogatywy bezpieczeństwa narodowego, wymaga zawieszenia Fable 5 i Mythos 5 dla każdego obcokrajowca, zarówno na terenie Stanów Zjednoczonych, jak i poza nimi, w tym dla zagranicznych pracowników Anthropic. Firma oświadczyła, że otrzymała jedynie ustne dowody na możliwą podatność i żadnych szczegółowych informacji na temat obaw związanych z bezpieczeństwem.

Efektem netto tego nakazu jest to, że musimy nagle wyłączyć Fable 5 i Mythos 5 dla wszystkich naszych klientów, aby zapewnić zgodność.

Fable 5, wariant większego systemu Mythos, został uruchomiony zaledwie kilka dni wcześniej i konkuruje z ChatGPT od OpenAI oraz Gemini od Google. Anthropic podkreśliło, że dostęp do wszystkich pozostałych modeli pozostaje bez zmian.

Reakcja Anthropic i zarzuty o jailbreak

Firma rozumie, że rząd uważa, iż zidentyfikował metodę ominięcia, czyli tzw. jailbreaku, zabezpieczeń, które miały zapobiegać niewłaściwemu wykorzystaniu Fable 5 do działań związanych z cyberbezpieczeństwem. Anthropic przyznało, że w ramach wewnętrznego przeglądu znalazło kilka drobnych, wcześniej znanych podatności, ale argumentowało, że podobne słabości istnieją w innych publicznych modelach bez konieczności stosowania zaawansowanych technik ich obchodzenia. Firma podkreśliła również, że przed uruchomieniem współpracowała z rządem USA, brytyjskim Instytutem Bezpieczeństwa AI, niezależnymi organizacjami i wewnętrznymi zespołami przez tysiące godzin testów.

Nie zgadzamy się, że odkrycie potencjalnie ograniczonego jailbreaku powinno stanowić powód do wycofania komercyjnego modelu wdrożonego dla setek milionów ludzi.

Anthropic poinformowało, że pracuje nad wyjaśnieniem sytuacji i jak najszybszym przywróceniem dostępu. Zauważyło, że zaledwie dwa dni przed wydaniem dyrektywy publicznie wzywało do zaostrzenia nadzoru USA nad AI, w tym do możliwości blokowania modeli uznanych za zbyt niebezpieczne, ale uznało, że piątkowe posunięcie nie jest zgodne z zasadami uczciwego, opartego na dowodach regulowania.

Napięte relacje z administracją Trumpa

Nakaz pogłębia już i tak napięte relacje między firmą z San Francisco a administracją Trumpa. Na początku tego roku Anthropic odmówiło amerykańskiemu wojsku wykorzystywania swoich modeli do inwigilacji wewnętrznej i w pełni autonomicznych systemów uzbrojenia. W marcu Pentagon uznał firmę za niedopuszczalne ryzyko dla łańcucha dostaw, co jest wpisaniem na czarną listę, które ma wejść w życie jeszcze w tym roku. Obecna dyrektywa stanowi dalszą eskalację, przesuwając amerykańską kontrolę eksportu poza układy scalone i narzędzia sprzętowe w kierunku bezpośredniego ograniczania dostępu cudzoziemców do zaawansowanego oprogramowania AI.

Ostrzeżenia ekspertów i implikacje dla branży

Zawieszenie może utrudnić bezpieczne opracowywanie i testowanie potężnych modeli – ostrzega Gina Neff, profesor odpowiedzialnej AI na Queen Mary University of London.

Znajdujemy się na niezbadanym terytorium. Ludzie w branży AI ostrzegali nas, że te narzędzia poprawiają się bardzo szybko i musimy być w stanie rozwinąć zdolności do ochrony siebie.

Kirsten Davies, dyrektor ds. informatyki w Pentagonie, poparła priorytet bezpieczeństwa narodowego.

Bezpieczeństwo narodowe musi mieć pierwszeństwo, a niektóre sprawy są ważniejsze niż przychody firmy, uwaga mediów czy wyceny przed IPO.

Starcie między wiodącym deweloperem AI a regulatorami uwypukla rosnące napięcie wokół tego, jak oceniać i zarządzać ryzykiem związanym z coraz bardziej zaawansowanymi modelami AI, szczególnie w obliczu dążenia samego Anthropic do debiutu giełdowego.