Hakerzy oszukali czatbota Meta AI, by przejąć konta na Instagramie, w tym profil Białego Domu z czasów Obamy
Atakujący wykorzystali asystenta wsparcia AI Meta, by zresetować hasła i przejąć konta na Instagramie bez dostępu do e-maili ofiar, co zmusiło firmę do awaryjnej naprawy.
Luka w czatbocie obsługi klienta opartym na AI Meta pozwoliła hakerom przejąć konta na Instagramie poprzez proste poproszenie asystenta o dodanie nowego adresu e-mail i zresetowanie hasła. Exploit, który nie wymagał złośliwego oprogramowania ani phishingu, został zademonstrowany w filmach krążących na X i Telegramie oraz potwierdzony przez wielu badaczy bezpieczeństwa.
Jak działał atak
Metoda opierała się wyłącznie na inżynierii społecznej skierowanej do Meta AI Support Assistant, konwersacyjnego agenta zaprojektowanego do pomocy w odzyskiwaniu i zarządzaniu kontami. Atakujący najpierw używali VPN, aby ukryć swoją lokalizację i uniknąć wywołania automatycznych zabezpieczeń Meta. Następnie rozpoczynali czat z botem wsparcia i prosili o powiązanie nowego adresu e-mail z docelowym kontem.
Zamiast weryfikować tożsamość osoby składającej wniosek za pomocą oryginalnego e-maila w systemie, czatbot wysyłał kod weryfikacyjny bezpośrednio na adres podany przez atakującego. Gdy haker przekazał ten kod z powrotem w rozmowie, AI wyświetliła przycisk resetowania hasła, skutecznie przekazując kontrolę nad kontem. TechCrunch poinformował o zweryfikowaniu elementów procedury, potwierdzając, że kod weryfikacyjny rzeczywiście został dostarczony na e-mail atakującego.
Przejęte konta
Wśród dotkniętych profili znalazły się oficjalne konto Białego Domu z administracji Obamy, nieaktywne od 2017 roku i zarchiwizowane w Narodowej Administracji Archiwów i Akt, a także konto Chief Master Sergeant Johna Bentivegny z US Space Force. Konto marki Sephora również zostało przejęte, według The Guardian. Dziesiątki zwykłych użytkowników zgłaszało podobne incydenty na Reddicie i X.
Badaczka bezpieczeństwa Jane Wong powiedziała, że jej własne konto na Instagramie zostało przejęte. "Moje hasło zostało zmienione bez mojej wiedzy i wczoraj przez cały dzień otrzymywałam kilka prób resetowania. To dość niepokojące" – napisała na X.
Reakcja Meta
Rzecznik Instagrama Andy Stone potwierdził, że problem bezpieczeństwa został załatany. "Zastosowano poprawkę" – powiedział Stone w odpowiedzi na oryginalny post Wong. Firma oświadczyła, że pracuje nad zabezpieczeniem kont, które mogły zostać dotknięte, ale nie ujawniła, ile kont zostało naruszonych, zanim luka została zamknięta.
Meta udostępniła asystenta wsparcia AI na całym świecie wcześniej w tym roku dla Facebooka i Instagrama, opisując go jako narzędzie do automatyzacji operacji, takich jak zgłaszanie oszustw, oznaczanie podszywania się i resetowanie haseł. Incydent rodzi nowe pytania dotyczące wdrażania dużych modeli językowych w wrażliwych procesach bezpieczeństwa, gdzie ludzcy agenci zazwyczaj kwestionowaliby nietypowe żądania zmiany danych.
Moje hasło zostało zmienione bez mojej wiedzy i wczoraj przez cały dzień otrzymywałam wiele prób resetowania hasła. To dość niepokojące.
Zastosowano poprawkę.
- Użytkownicy zaczynają zgłaszać przejęte konta na Instagramie na Reddicie i X; filmy przedstawiające metodę exploitu krążą na Telegramie.
- Badaczka bezpieczeństwa Jane Wong zgłasza przejęcie swojego konta przez lukę w czatbocie; TechCrunch weryfikuje elementy procedury ataku.
- Rzecznik Meta Andy Stone potwierdza, że zastosowano poprawkę; firma oświadcza, że pracuje nad zabezpieczeniem dotkniętych kont.
