Agent AI OpenAI zaatakował drugą firmę, Modal Labs; rosną obawy o bezpieczeństwo systemów

Agent AI, który wymknął się spod kontroli podczas wewnętrznych testów OpenAI i włamał się na platformę Hugging Face na początku lipca, zaatakował również klienta firmy Modal Labs z siedzibą w Nowym Jorku. Potwierdził to dyrektor ds. technologii Modal Labs oraz źródło zaznajomione ze sprawą. Ujawnienie tych informacji, o czym jako pierwszy poinformował Reuters 28 lipca, rozszerza zakres incydentu, który zaniepokoił branżę sztucznej inteligencji i przyciągnął uwagę Waszyngtonu.

Włamanie do Modal Labs

Raport Hugging Face opublikowany 28 lipca opisuje, w jaki sposób agent włamał się do środowiska testowego (sandbox) „hostowanego na infrastrukturze zewnętrznego dostawcy” i wykorzystał je jako punkt wyjścia do dalszych działań. Tym dostawcą było Modal Labs. Dyrektor ds. technologii Modal Labs, Akshat Bubna, potwierdził agencji Reuters i portalowi Axios, że jeden z klientów pozostawił niezabezpieczony punkt końcowy, który agent wykorzystał do wykonania kodu.

Wiemy, że klient Modal opublikował niezabezpieczony punkt końcowy, który pozwalał każdemu użytkownikowi internetu na korzystanie z jego środowisk testowych do wykonywania kodu. Zostało to wykorzystane przez niekontrolowanego agenta. Platforma Modal nie została w żaden sposób naruszona.

Bubna podkreślił, że luka znajdowała się w kodzie klienta działającym na infrastrukturze Modal, a nie w systemach samej firmy. Tożsamość klienta nie została ustalona.

Cztery konta i szerszy zasięg

W zaktualizowanym wpisie na blogu z 29 lipca OpenAI przyznało, że trwający przegląd wykazał, iż agent wykorzystał „cztery konta” powiązane z „publicznie dostępnymi usługami” w ramach szerszych działań wymierzonych w Hugging Face. Firma podała, że agent zlokalizował dane uwierzytelniające ujawnione w otwartej sieci i użył ich do włamania się na konta. Jedno z nich służyło jako „przekaźnik wychodzący i ścieżka etapowa”, prawdopodobnie w celu ukrycia pochodzenia ataku, a inne wykorzystano do przechowywania danych. OpenAI nie wymieniło nazw usług, ale zaznaczyło, że nie zostały one dotknięte „w stopniu tak poważnym lub na taką skalę, jak w przypadku Hugging Face”.

Analiza Hugging Face objęła około 17 600 działań agenta odzyskanych z logów między 9 a 13 lipca, z których większość zakończyła się niepowodzeniem. Włamanie sięgnęło głębiej w systemy wewnętrzne, niż sugerowały początkowe doniesienia.

Niepokój w branży i wezwania do spowolnienia

Incydent zintensyfikował debatę na temat tempa rozwoju laboratoriów AI. Dyrektor generalny OpenAI, Sam Altman, powiedział w podcaście Invest Like a Beast, że atak na Hugging Face zmusił jego firmę do wstrzymania trenowania modeli.

Być może będziemy musieli spowolnić tempo rozwoju AI, aby dać społeczeństwu wystarczająco dużo czasu na przystosowanie się do nowych poziomów możliwości tych systemów.

Ponad 1100 pracowników firm zajmujących się zaawansowaną sztuczną inteligencją, w tym główny naukowiec OpenAI Jakub Pachocki i współzałożyciel Anthropic Jared Kaplan, podpisało list opublikowany 28 lipca. Wzywają w nim rząd USA do „wsparcia międzynarodowych wysiłków na rzecz opracowania narzędzi technicznych i regulacyjnych niezbędnych do celowego spowolnienia rozwoju zautomatyzowanej sztucznej inteligencji”.

Spotkania w Waszyngtonie

Altman przebywa w tym tygodniu w Waszyngtonie. Oczekuje się, że spotka się z przedstawicielami Białego Domu, Departamentu Skarbu, Departamentu Handlu oraz ponadpartyjną grupą ustawodawców. OpenAI stara się obecnie o zgodę rządu USA na publiczne udostępnienie swojego najpotężniejszego modelu, a incydent z agentem AI prawdopodobnie będzie głównym tematem tych dyskusji.