Hacker täuschen Meta-KI-Chatbot und übernehmen Instagram-Konten, darunter Obama-White-House-Profil
Angreifer nutzten Metas eigenen KI-Support-Assistenten aus, um Passwörter zurückzusetzen und Instagram-Konten zu übernehmen, ohne auf die E-Mails der Opfer zuzugreifen, was das Unternehmen zu einer Notfallbehebung veranlasste.
Eine Schwachstelle im KI-gestützten Kundensupport-Chatbot von Meta ermöglichte es Hackern, Instagram-Konten zu übernehmen, indem sie einfach den Assistenten baten, eine neue E-Mail-Adresse hinzuzufügen und das Passwort zurückzusetzen. Der Exploit, der weder Malware noch Phishing erforderte, wurde in Videos gezeigt, die auf X und Telegram kursierten, und von mehreren Sicherheitsforschern bestätigt.
Wie der Angriff funktionierte
Die Methode beruhte vollständig auf Social Engineering gegenüber dem Meta-KI-Support-Assistenten, dem Konversationsagenten, der Benutzern bei der Wiederherstellung und Verwaltung ihrer Konten helfen soll. Ein Angreifer nutzte zunächst ein VPN, um seinen Standort zu verschleiern und Metas automatische Abwehrmechanismen zu umgehen. Dann begann er einen Chat mit dem Support-Bot und forderte, dass eine neue E-Mail-Adresse mit dem Zielkonto verknüpft wird.
Anstatt die Identität des Antragstellers über die ursprüngliche E-Mail zu überprüfen, sendete der Chatbot einen Bestätigungscode direkt an die vom Angreifer angegebene Adresse. Sobald der Hacker diesen Code im Gespräch zurückmeldete, zeigte die KI eine Schaltfläche zum Zurücksetzen des Passworts an, wodurch die Kontrolle über das Konto effektiv übergeben wurde. TechCrunch berichtete, Elemente des Verfahrens überprüft zu haben, und bestätigte, dass der Bestätigungscode tatsächlich an die E-Mail des Angreifers gesendet wurde.
Kompromittierte Konten
Zu den betroffenen Profilen gehörten das offizielle White-House-Konto der Obama-Administration, das seit 2017 inaktiv ist und unter der National Archives and Records Administration archiviert wird, sowie das Konto von Chief Master Sergeant John Bentivegna der US Space Force. Auch das Markenkonto von Sephora wurde laut The Guardian kompromittiert. Dutzende reguläre Nutzer meldeten ähnliche Vorfälle auf Reddit und X.
Die Sicherheitsforscherin Jane Wong sagte, ihr eigenes Instagram-Konto sei übernommen worden. „Mein Passwort wurde ohne mein Wissen geändert und ich erhielt gestern den ganzen Tag über mehrere Versuche, es zurückzusetzen. Das ist ziemlich beunruhigend“, schrieb sie auf X.
Metas Reaktion
Instagram-Sprecher Andy Stone bestätigte, dass das Sicherheitsproblem behoben wurde. „Ein Fix wurde angewendet“, sagte Stone in einer Antwort auf Wongs ursprünglichen Beitrag. Das Unternehmen erklärte, es arbeite daran, möglicherweise betroffene Konten zu sichern, gab jedoch nicht bekannt, wie viele Konten kompromittiert wurden, bevor die Schwachstelle geschlossen wurde.
Meta hatte den KI-Support-Assistenten Anfang dieses Jahres global für Facebook und Instagram eingeführt und ihn als Werkzeug zur Automatisierung von Vorgängen wie Betrugsmeldungen, Identitätsdiebstahlmeldungen und Passwortzurücksetzungen beschrieben. Der Vorfall wirft neue Fragen zum Einsatz großer Sprachmodelle in sensitiven Sicherheitsprozessen auf, bei denen menschliche Agenten normalerweise ungewöhnliche Datenänderungsanfragen hinterfragen würden.
Mein Passwort wurde ohne mein Wissen geändert und ich erhielt gestern den ganzen Tag über mehrere Versuche, es zurückzusetzen. Ziemlich beunruhigend.
Ein Fix wurde angewendet.
- Benutzer beginnen, kompromittierte Instagram-Konten auf Reddit und X zu melden; Videos der Exploit-Methode kursieren auf Telegram.
- Sicherheitsforscherin Jane Wong meldet, dass ihr Konto über den Chatbot-Fehler übernommen wurde; TechCrunch verifiziert Elemente des Angriffsverfahrens.
- Meta-Sprecher Andy Stone bestätigt, dass ein Fix angewendet wurde; Unternehmen gibt an, an der Sicherung betroffener Konten zu arbeiten.
