Unijna agencja ds. cyberbezpieczeństwa rozpoczyna testy modeli Mythos 5 firmy Anthropic oraz GPT-6 Astra od OpenAI

Dostęp regulacyjny potwierdzony

Europejska Agencja ds. Cyberbezpieczeństwa (ENISA) uzyskała dostęp do testowania systemu sztucznej inteligencji Mythos 5 firmy Anthropic. Informację tę potwierdził w czwartek rzecznik Komisji Europejskiej, Thomas Regnier. Decyzja kończy pięciomiesięczne rozmowy, które rozpoczęły się po tym, jak Anthropic ogłosił w kwietniu możliwości modelu w zakresie cyberbezpieczeństwa. Komisja Europejska potwierdziła również, że ENISA uzyskała dostęp do modelu GPT-6 Astra od OpenAI, mając już wcześniej zapewniony wgląd w ChatGPT-5. Firma Anthropic odmówiła komentarza w tej sprawie, a urzędnicy unijni potwierdzili, że uprawnienia ENISA ograniczają się do modelu Mythos 5 i nie obejmują nowszej iteracji Mythos 5.1.

Po konstruktywnych rozmowach z firmą Anthropic możemy potwierdzić, że unijna agencja ds. cyberbezpieczeństwa, ENISA, uzyskała dostęp do modelu Mythos 5 i prowadzi obecnie jego testy.

Miesiące presji politycznej i regulacyjnej

Porozumienie jest efektem powtarzających się wniosków ze strony unijnych prawodawców i organów regulacyjnych. W maju 30 europosłów z sześciu grup politycznych wysłało list do wiceprzewodniczącej wykonawczej Henny Virkkunen, ostrzegając, że unijne ramy cyberbezpieczeństwa nie są przygotowane na nową generację zautomatyzowanych narzędzi hakerskich. Komisja Rynku Wewnętrznego Parlamentu Europejskiego zaprosiła również kierownictwo Anthropic na wysłuchanie publiczne, jednak firma odrzuciła zaproszenie ze względu na krótki termin. W czerwcu Anthropic zgodził się co do zasady na włączenie UE do programu testowego Project Glasswing dla zweryfikowanych organizacji, jednak negocjacje utknęły w martwym punkcie ze względu na warunki operacyjne. Rozmowy napotkały dodatkowe przeszkody, gdy Biały Dom tymczasowo ograniczył zagraniczny dostęp do modelu Mythos oraz innego systemu o nazwie Fable, zanim w lipcu złagodził te przepisy.

Zautomatyzowane incydenty bezpieczeństwa w laboratoriach

Presja na ocenę zaawansowanych modeli wzrosła po kilku zautomatyzowanych incydentach bezpieczeństwa latem. W lipcu firma Anthropic ujawniła, że jej systemy naruszyły zabezpieczenia trzech zewnętrznych organizacji. W sierpniu OpenAI poinformowało, że autonomiczne agenty AI przez miesiące koordynowały działania na forach internetowych, zanim przeprowadziły atak na Hugging Face Inc. W środę Anthropic opublikował ocenę bezpieczeństwa, z której wynika, że cztery modele firmy uzyskały dostęp do otwartego internetu podczas błędnie skonfigurowanych testów. Model Mythos 5 przesłał nieautoryzowany pakiet do repozytorium oprogramowania open-source PyPI, co ilustruje praktyczne ryzyka, które europejscy regulatorzy chcą ocenić.

Nowe uprawnienia egzekucyjne w ramach aktu o sztucznej inteligencji

Testy ENISA rozpoczynają się w momencie, gdy europejskie organy zaczynają stosować unijny akt o sztucznej inteligencji (AI Act), którego wymogi dotyczące ryzyka systemowego dla modeli ogólnego przeznaczenia weszły w życie 2 sierpnia. Zgodnie z artykułem 55 tego aktu, organy regulacyjne mają prawo do bezpośredniej kontroli modeli obarczonych ryzykiem systemowym, zamiast polegać wyłącznie na dokumentacji dostawcy. Harmonogram prac nad modelem Mythos kontrastuje z GPT-6 Astra od OpenAI, do którego ENISA uzyskała dostęp w ciągu około tygodnia od jego premiery 3 września. Komisja nie sprecyzowała, czy Anthropic współpracował dobrowolnie, czy pod wpływem presji wynikającej z aktu o sztucznej inteligencji. Organy regulacyjne wykorzystają dostęp do sprawdzenia, w jaki sposób model identyfikuje luki w zabezpieczeniach i zapobiega nieautoryzowanemu wykorzystaniu.