Biały Dom i Anthropic nie zdołały zakończyć zakazu eksportu modelu AI Claude Fable 5
Negocjacje między firmą Anthropic a administracją Trumpa w sprawie ograniczeń dotyczących modelu Claude Fable 5 zakończyły się w poniedziałek bez porozumienia, co oznacza utrzymanie w mocy pierwszego w historii przymusowego wycofania modelu sztucznej inteligencji z rynku.
Napięta sytuacja
Biały Dom stracił zaufanie do Anthropic na kilka tygodni przed nałożeniem zakazu eksportu, jak podają anonimowi urzędnicy cytowani przez „Washington Post”. Spór koncentrował się na ograniczeniach etycznych, które firma utrzymywała w odniesieniu do potencjalnie katastrofalnych zagrożeń związanych z AI, a urzędnicy administracji zaczęli rozważać sankcje na długo przed piątkową dyrektywą.
Zagrożenie typu „jailbreak”
Obawy koncentrują się na lukach w zabezpieczeniach, które mogłyby pozwolić użytkownikom na usunięcie zabezpieczeń z modelu Claude Fable 5 i uzyskanie dostępu do potężniejszych możliwości cyberbezpieczeństwa wewnętrznego modelu Mythos firmy Anthropic. Dyrektor generalny Amazon, Andy Jassy, zadzwonił w zeszłym tygodniu do sekretarza skarbu Scotta Bessenta, aby zasygnalizować problem, co skłoniło NSA do zbadania sprawy. Według osób zaznajomionych z dyskusjami, agencja potwierdziła, że „jailbreak” jest rzeczywiście możliwy.
Weekendowa dyplomacja
Po nałożeniu zakazu w piątek wieczorem, wysokiej rangi przedstawiciele prowadzili wielogodzinne rozmowy przez cały weekend. Ze strony Anthropic uczestniczyli współzałożyciel Tom Brown i szefowa ds. polityki Sarah Heck; ze strony administracji w rozmowach wzięli udział sekretarz handlu Howard Lutnick oraz krajowy dyrektor ds. cyberbezpieczeństwa Sean Cairncross. Następnie firma w pośpiechu wysłała personel techniczny do Waszyngtonu.
Obie strony pracują intensywnie nad rozwiązaniem tej kwestii.
Poniedziałkowy impas
Osobiste spotkania w Departamencie Handlu obejmowały szczegółowe prezentacje zespołu ds. bezpieczeństwa (frontier red team) Anthropic oraz ekspertów ds. zabezpieczeń: Logana Grahama, Dave'a Orra i Nicholasa Carliniego. Administrację reprezentował Chris Fall, który kieruje Centrum Standardów i Innowacji w dziedzinie AI. Pomimo wymiany technicznej, rozmowy zakończyły się utrzymaniem kontroli eksportu. Wysoki rangą urzędnik Białego Domu stwierdził, że osiągnięcie porozumienia prawdopodobnie zajmie więcej niż kilka dni, choć pozostawiono otwartą furtkę do szybszego rozwiązania.
Osiągnięcie porozumienia prawdopodobnie zajmie więcej niż kilka dni.
Szerszy kontekst
Ograniczenie to stanowi najpoważniejszą eskalację w próbach rządu USA uregulowania szybko rozwijającej się branży sztucznej inteligencji. Po raz pierwszy Biały Dom zmusił firmę do wycofania modelu AI z publicznego dostępu. Dla Anthropic konflikt ten zbiega się w czasie z oddzielnym sporem z Pentagonem dotyczącym wojskowego wykorzystania jej modeli.
Wszystkie te luki wydają się stosunkowo proste i odkryliśmy, że inne publicznie dostępne modele są w stanie je wykryć również bez konieczności stosowania obejścia.
