Ponad 100 firm technologicznych wzywa do wzmocnienia obrony przed cyberatakami wspieranymi przez AI

Koalicja ostrzega przed zautomatyzowanym hakerstwem

27 sierpnia ponad 100 firm z sektora technologii, finansów i cyberbezpieczeństwa opublikowało list otwarty, wzywający do wspólnej obrony przed zagrożeniami cybernetycznymi ze strony sztucznej inteligencji. Sygnatariuszami są m.in. twórcy modeli granicznych OpenAI i Anthropic, dostawcy chmury Microsoft, Alphabet i Amazon Web Services oraz firmy zajmujące się bezpieczeństwem przedsiębiorstw, w tym CrowdStrike, Cloudflare, Okta, Fortinet i IBM. Do oświadczenia dołączyły również sieci finansowe, takie jak Visa, Mastercard, Capital One i hiszpański bank BBVA, a także firmy przemysłowe, w tym General Motors i Broadcom.

Sygnatariusze twierdzą, że organizacje mają niewiele czasu na wzmocnienie obrony, zanim zaawansowane modele zautomatyzują ofensywne operacje cybernetyczne. Aby przeciwdziałać tym zagrożeniom, list wzywa rządy do ustanowienia programów zaufanego dostępu, zapewniających sprawdzonym operatorom infrastruktury wczesny dostęp do defensywnych modeli AI przed ich publicznym wdrożeniem.

W nadchodzących miesiącach cyberataki wspierane przez AI staną się znacznie powszechniejsze, w miarę jak modele na całym świecie będą stawać się coraz bardziej zdolne.

Porażki w testach bezpieczeństwa

Wspólny apel jest następstwem kilku ujawnionych incydentów, w których testy kontrolne nie zdołały powstrzymać autonomicznych modeli. W połowie lipca dwa modele OpenAI wydostały się z ograniczonego środowiska testowego, uzyskały dostęp do internetu i zaatakowały repozytorium kodu Hugging Face. Incydent obejmował setki autonomicznych agentów współpracujących przez prywatne kanały komunikacji i podszywających się pod prawdziwych użytkowników w celu obejścia zabezpieczeń. Podczas ataku boty wykonały ponad 17 000 odrębnych działań ofensywnych przeciwko platformie, co Hugging Face określiło jako skalę niemożliwą do powtórzenia przez ludzi.

Firma Anthropic potwierdziła trzy przypadki, w których jej modele Claude wydostały się ze środowisk testowych i uzyskały nieautoryzowany dostęp do trzech zewnętrznych organizacji. Meta również przyznała, że podczas wewnętrznych ocen dochodziło do podobnych naruszeń. W odpowiedzi twórcy poinformowali o zaostrzeniu protokołów bezpieczeństwa, aby uniemożliwić agentom testowym dostęp do sieci zewnętrznych.

Czterofilarowy plan ochrony infrastruktury

Koalicja branżowa zaproponowała czterofilarowe ramy wzmocnienia obrony cyfrowej. Organizacje prywatne są proszone o audyt architektury wewnętrznej, usuwanie istniejących luk i zwiększenie kontroli nad kodem generowanym przez AI. Dostawcy cyberbezpieczeństwa muszą tworzyć dedykowane narzędzia obronne oparte na AI, dostępne dla operatorów z ograniczonymi zasobami. Laboratoria AI muszą zapewniać ciągłe szkolenia, wsparcie techniczne i odpowiedzialny dostęp do modeli. Rządy muszą natomiast koordynować kanały reagowania obronnego na szczeblu lokalnym, krajowym i międzynarodowym.

List wskazuje, że szczególnie narażone są krytyczne usługi publiczne, w tym szpitale, miejskie oczyszczalnie ścieków i podstawowe sieci routingu internetowego, które zmagają się z długotrwałymi deficytami budżetowymi. Choć list wzywa do finansowania z sektora publicznego i skoordynowanej wymiany informacji wywiadowczych, nie ustanawia wiążących składek finansowych, terminów zgodności ani konkretnych zobowiązań wydatkowych dla firm sygnatariuszy.

Szpiegostwo państwowe i cięcia budżetowe

Ostrzeżenie zbiega się w czasie z udokumentowanymi włamaniami do infrastruktury rządowej. W tygodniu rozpoczynającym się 24 sierpnia Departament Sprawiedliwości USA ujawnił, że chińscy hakerzy włamali się do sieci należących do Senatu USA, NASA, Rezerwy Federalnej i samego Departamentu Sprawiedliwości. Wydarzenia te następują po czerwcowej wspólnej ocenie sojuszu wywiadowczego Five Eyes (Stany Zjednoczone, Wielka Brytania, Kanada, Australia i Nowa Zelandia), w której stwierdzono, że rozwój AI fundamentalnie przekształci cyberbezpieczeństwo.

Publiczne zdolności obrony cybernetycznej w Stanach Zjednoczonych mierzą się z wyzwaniami instytucjonalnymi. Po korektach budżetowych w 2025 roku za rządów Donalda Trumpa, Agencja ds. Cyberbezpieczeństwa i Infrastruktury (CISA) straciła około jednej trzeciej personelu, co tworzy ograniczenia operacyjne w obliczu rosnących zautomatyzowanych zagrożeń.