Anthropic udostępnia ograniczoną wersję Mythos AI po testach wykazujących zdolność do wykrywania ukrytych wad cyberbezpieczeństwa

Premiera

Anthropic wypuścił dziś Claude Fable 5, pierwszą publiczną wersję swojego modelu Mythos AI, z wyraźnymi ograniczeniami. Firma z San Francisco poinformowała, że model zawiera funkcje bezpieczeństwa, które blokują go przed odpowiadaniem na określone typy zapytań, zwłaszcza dotyczące cyberbezpieczeństwa i biologii. Anthropic zauważył, że Fable 5 jest również lepszy od wcześniejszych modeli w programowaniu oprogramowania, co sugeruje, że zabezpieczenia nie osłabiły jego ogólnych możliwości. Mythos to najbardziej zaawansowana seria modeli Anthropica, po raz pierwszy testowana w kwietniu w ramach ograniczonego programu partnerskiego.

Model, który ujawnił ukryte wady

Potrzeba ograniczeń stała się jasna, gdy Mythos Preview, wcześniejszy wariant, wykazał zdolność do identyfikowania i wykorzystywania dziesięciolecia starych luk w powszechnie używanych systemach operacyjnych i przeglądarkach internetowych. Jego szybkość i precyzja zaniepokoiły specjalistów ds. cyberbezpieczeństwa, którzy obawiają się, że taka sztuczna inteligencja może umożliwić niszczycielskie ataki.

Mythos może identyfikować i wykorzystywać luki w dowolnym powszechnym systemie operacyjnym lub przeglądarce internetowej, jeśli zostanie do tego poinstruowany przez użytkownika.

Dostęp dla rządu i przemysłu

Pomimo publicznego udostępnienia wyciszonej wersji, pełny Mythos Preview pozostaje dostępny dla rządu USA i wybranych firm w ramach programu o nazwie „Glasswing”. Inicjatywa ma na celu wykorzystanie ofensywnych możliwości AI do testowania i wzmacniania obrony. Anthropic poinformował, że następny model, Mythos 5, rozszerzy tę współpracę.

Ostrzeżenia z Niemiec

Niemieccy urzędnicy kontrwywiadu i politycy ds. bezpieczeństwa ostrzegli, że niekontrolowany dostęp do Mythos może umożliwić przestępcom lub podmiotom państwowym atakowanie infrastruktury krytycznej, takiej jak banki i systemy energetyczne. Ostrzeżenia te przyczyniły się do decyzji o wstrzymaniu najbardziej niebezpiecznych funkcji z publicznej wersji.

Wyścig o IPO

Anthropic i jego rywal OpenAI, twórca ChatGPT, obaj przygotowują się do pierwszych ofert publicznych. Presja komercyjna dodaje kolejną warstwę do debaty nad tym, jak szybko należy wdrażać zaawansowane modele AI.