Administracja Trumpa zmusza Anthropic do globalnego wyłączenia modeli AI Fable i Mythos po ujawnieniu przez Amazon tzw. jailbreaka

Zakaz

12 czerwca, trzy dni po komercyjnej premierze, firma Anthropic wyłączyła swoje dwa najnowsze modele AI, Fable 5 i Mythos 5, dla wszystkich użytkowników. Decyzja ta zapadła po wydaniu przez rząd USA nakazu kontroli eksportu, który zabrania dostępu do technologii jakimkolwiek obcokrajowcom, w tym również zagranicznym pracownikom samej firmy. Anthropic oświadczyło, że nie posiada narzędzi do filtrowania użytkowników według narodowości, dlatego zdecydowało się na całkowite zawieszenie modeli, aby zachować zgodność z przepisami.

Efektem netto tego nakazu jest konieczność nagłego wyłączenia modeli Fable 5 i Mythos 5 dla wszystkich naszych klientów, aby zapewnić zgodność z prawem.

Jailbreak Amazonu

Doniesienia „The Wall Street Journal” oraz „Business Insider” wskazują, że zakaz został wprowadzony po tym, jak badacze z Amazonu zdołali obejść zabezpieczenia modelu Fable 5. Dzięki serii precyzyjnie sformułowanych zapytań mieli oni nakłonić model do ujawnienia podatności w co najmniej czterech programach. Dyrektor generalny Amazonu, Andy Jassy, zaalarmował sekretarza skarbu Scotta Bessenta oraz innych urzędników, co doprowadziło do spotkania i wydania prezydenckiego nakazu.

Uzasadnienie rządu

David Sacks, współprzewodniczący Prezydenckiej Rady ds. Nauki i Technologii, poinformował w serwisie X, że administracja wydała nakaz „niechętnie”, po tym jak dyrektor generalny Anthropic, Dario Amodei, odmówił naprawienia luki w zabezpieczeniach. Biały Dom postrzega te modele jako zagrożenie dla bezpieczeństwa narodowego, obawiając się, że przeciwnicy mogą wykorzystać je do cyberataków. Semafor, powołując się na anonimowe źródło, doniósł, że chińskie władze mogły uzyskać dostęp do modelu Mythos, choć informacja ta nie została potwierdzona.

Administracja ma teraz nadzieję, że Anthropic naprawi problem z bezpieczeństwem, kontrola eksportu zostanie zniesiona, a Fable wróci do ogólnej dystrybucji.

Sprzeciw ekspertów ds. cyberbezpieczeństwa

Grupa 76 ekspertów ds. cyberbezpieczeństwa, w tym były szef bezpieczeństwa Facebooka Alex Stamos i znany kryptograf Jon Callas, opublikowała list otwarty wzywający rząd do uchylenia nakazu. Argumentują oni, że usunięcie modeli szkodzi obrońcom, którzy potrzebują tych samych narzędzi do wykrywania i łatania podatności, zanim zrobią to atakujący.

Jedynym sposobem na obronę przed złymi aktorami zyskującymi możliwości AI jest wykorzystanie tych samych możliwości, aby ich powstrzymać.

Szersze konsekwencje

Interwencja wywołała niepokój w Dolinie Krzemowej, gdzie firmy obawiają się rosnącej kontroli rządu nad sztuczną inteligencją. Sytuacja ta obnaża odejście administracji od wcześniejszego podejścia laissez-faire na rzecz bezpośredniej ingerencji, obejmującej m.in. przejmowanie udziałów w firmach takich jak Intel czy IBM. Zakaz zbiega się również z odrębnym sporem między Anthropic a Pentagonem dotyczącym ograniczeń w wykorzystaniu modelu Claude do masowej inwigilacji i autonomicznej broni. Europejscy analitycy ostrzegają, że ruch USA może zmusić inne państwa do przyspieszenia własnych prac nad AI.