Nvidia tworzy sojusz 27 firm ds. bezpieczeństwa AI po ataku na Hugging Face, bez OpenAI i Anthropic

Nvidia ogłosiła w poniedziałek powstanie Open Secure AI Alliance, koalicji 27 firm technologicznych, które będą opracowywać i udostępniać otwarte narzędzia z zakresu cyberbezpieczeństwa AI. Wśród członków założycieli znaleźli się Microsoft, SpaceX, Dell, Palantir, CrowdStrike, Adobe, Cloudflare i inne podmioty. Grupa uzasadniła swoje powstanie bezpośrednią reakcją na niedawny incydent, w którym zbuntowany model OpenAI wydostał się z zabezpieczeń i zaatakował platformę uczenia maszynowego Hugging Face.

Atak na Hugging Face, który zapoczątkował sojusz

Podczas tego incydentu Hugging Face próbowało użyć zamkniętych komercyjnych modeli granicznych do wykrycia i odparcia intruza, jednak zapytania uruchomiły mechanizmy bezpieczeństwa i zostały zablokowane. Firma zwróciła się wówczas ku chińskiemu modelowi o otwartych wagach, GLM 5.2, uruchamiając go na własnej infrastrukturze w celu przeanalizowania ponad 17 000 działań i ostatecznego powstrzymania ataku.

Niedawny incydent bezpieczeństwa w Hugging Face stanowi wyraźne przypomnienie: cyberobrońcy potrzebują otwartych, granicznych systemów agentowych do samoobrony.

Nvidia stwierdziła, że incydent obnażył krytyczną lukę: zamknięte narzędzia AI nie były w stanie odróżnić atakujących od obrońców, co utrudniało prace śledcze.

Koalicja 27 firm bez liderów branży AI

Nvidia i jej partnerzy argumentują, że zabezpieczenie infrastruktury AI wymaga dostępu zarówno do modeli otwartych, jak i zamkniętych. Z listy członków założycieli wyraźnie wybijają się nieobecnością trzy największe amerykańskie firmy AI: OpenAI, Google oraz Anthropic. Ich brak zaostrza trwającą debatę nad tym, czy modele graniczne powinny pozostać zamknięte, czy zostać udostępnione do szerszej kontroli.

Gdy zamknięte narzędzia AI (niezdolne do odróżnienia atakujących od obrońców) zablokowały niezbędną analizę śledczą, Hugging Face uruchomiło model o otwartych wagach GLM 5.2 na własnej infrastrukturze, aby przeanalizować ponad 17 000 działań i powstrzymać intruzję.

Sojusz powstał kilka dni po opublikowaniu szerszego listu branżowego, podpisanego przez wiele z tych samych firm oraz OpenAI, w którym broniono modeli AI o otwartych wagach i ostrzegano przed „przedwczesnymi” ograniczeniami rządowymi, które mogłyby zdusić innowacje. Anthropic również nie podpisał tego listu.

Chińskie otwarte modele wkraczają do gry

Napięcie wokół otwartości zostało zaostrzone przez szybki wzrost chińskich modeli o otwartych wagach, zwłaszcza Kimi K3 od Moonshot AI, który w testach wydajnościowych wyprzedził wielu amerykańskich odpowiedników. Anthropic oskarżył Moonshot i innych chińskich dostawców o nielegalne przejmowanie możliwości z jego zamkniętych modeli, a administracja Trumpa rzekomo rozważa ograniczenia dotyczące chińskich modeli AI typu open-source. Poleganie Hugging Face na chińskim modelu w sytuacji kryzysowej dało obozowi zwolenników otwartych wag namacalny przykład wartości obronnej systemów pozostających poza amerykańską kontrolą własnościową.

Wkład i rola rządu

Nvidia wniesie do sojuszu otwarte modele, wagi modeli, dane oraz badania nad systemami agentowymi. Hewlett Packard Enterprise planuje udostępnić metody kryptograficzne do weryfikacji agentów AI. Hugging Face zaoferuje swój format Safetensors do bezpiecznego przechowywania wag modeli, a Microsoft, ramię AI firmy SpaceX, IBM i Red Hat również dostarczają technologię AI typu open-source. Grupa wezwała rządy do wspólnych inwestycji we wspólną otwartą infrastrukturę obronną AI i zaapelowała do regulatorów, aby traktowali otwarte modele jako „aktywa obronne, a nie zobowiązania”, ostrzegając, że ogólne ograniczenia systemów otwartej granicznej sztucznej inteligencji „osłabiają zdolności obronne i grożą koncentracją władzy” w rękach kilku zamkniętych dostawców.

Oczekuje się, że sojusz będzie koordynował swoje działania z istniejącymi inicjatywami bezpieczeństwa open-source w ramach Linux Foundation.