USA nakazuje Anthropic zablokowanie dostępu zagranicznym użytkownikom do swoich najbardziej zaawansowanych modeli AI w obawie przed jailbreakiem

Rząd USA powołuje się na bezpieczeństwo narodowe

Anthropic otrzymał dyrektywę od rządu USA po południu 12 czerwca, nakazującą firmie zawieszenie dostępu dla wszystkich obcokrajowców do modeli AI Fable 5 i Mythos 5. List, wysłany o 17:21 czasu lokalnego, nie precyzował dokładnych obaw dotyczących bezpieczeństwa narodowego, według firmy. Anthropic oświadczył, że uważa, iż rząd dowiedział się o metodzie obejścia lub złamania zabezpieczeń Fable 5.

Modele wyłączone dla wszystkich klientów

Ponieważ nakaz kontroli eksportu dotyczy każdego obcokrajowca, zarówno wewnątrz, jak i poza Stanami Zjednoczonymi, w tym pracowników Anthropic, firma stwierdziła, że nie może filtrować dostępu według narodowości. W rezultacie Anthropic nagle wyłączył oba modele dla wszystkich klientów, aby zapewnić zgodność. Dostęp do innych modeli Anthropic, w tym czatbota Claude, pozostaje bez zmian.

Anthropic sprzeciwia się decyzji

Firma argumentowała, że stwierdzenie wąskiego potencjalnego jailbreaka nie powinno prowadzić do wycofania komercyjnego modelu wdrożonego u setek milionów ludzi. W poście na blogu Anthropic stwierdził, że taki standard „w zasadzie zatrzymałby wszystkie wdrożenia nowych modeli dla wszystkich dostawców modeli granicznych”, gdyby był stosowany w całej branży. Bronił także swoich zabezpieczeń, które automatycznie przekierowują wrażliwe zapytania dotyczące cyberbezpieczeństwa, biologii lub chemii do modelu o niższych możliwościach.

Nie zgadzamy się, że stwierdzenie wąskiego potencjalnego jailbreaka powinno być powodem do wycofania komercyjnego modelu wdrożonego u setek milionów ludzi.

Tło ograniczonych modeli

Fable 5, wydany publicznie 9 czerwca, opiera się na potężniejszym Mythos 5, modelu, który Anthropic wcześniej opisał jako zbyt niebezpieczny, aby go szeroko udostępniać ze względu na jego możliwości cyberbezpieczeństwa. Mythos 5 pozostawał dostępny tylko dla wybranych partnerów w ramach programu Project Glasswing. Firma wprowadziła Fable z dodatkowymi zabezpieczeniami, w tym automatycznym przekierowywaniem odpowiedzi dla wrażliwych tematów, ale rząd mimo to zareagował.

Kontekst polityczny i prawny

Ograniczenie pochodziło z administracji Trumpa, która do niedawna opowiadała się za minimalną regulacją AI. Wcześniej w tym roku Pentagon uznał Anthropic za zagrożenie dla bezpieczeństwa narodowego w związku ze sporem o militarne wykorzystanie jego technologii. Prezydent Trump podpisał wcześniej w tym miesiącu rozporządzenie wykonawcze zachęcające firmy do udostępniania urzędnikom wcześniejszego przeglądu potężnych nowych narzędzi AI, chociaż udział jest dobrowolny. Anthropic osobno pozywa rząd w związku z nakazem zaprzestania korzystania z jego narzędzi AI przez agencje federalne.