Meta-KI-Support-Chatbot trickst Instagram-Konten mit einer einzigen Anfrage aus

Eine kritische Sicherheitslücke in Metas KI-Support-Chatbot ermöglichte es Hackern, Dutzende von Instagram-Konten zu kapern, darunter verifizierte Profile eines archivierten Weiße-Haus-Accounts eines ehemaligen US-Präsidenten, eines hochrangigen Kommandeurs der US Space Force und des Kosmetikhändlers Sephora. Der Exploit, der zuerst von 404 Media gemeldet wurde, erforderte weder ein Passwort noch einen Zwei-Faktor-Authentifizierungscode des ursprünglichen Besitzers.

So funktionierte der Exploit

Die Angreifer leiteten den Wiederherstellungsprozess für das Instagram-Konto ein und kontaktierten den Meta-KI-Support-Assistenten. Sie forderten den Bot auf, eine neue E-Mail-Adresse mit dem Zielkonto zu verknüpfen. Die KI kam dem nach und sendete einen Bestätigungscode an die vom Angreifer kontrollierte E-Mail-Adresse. Nach der Bestätigung gab das System einen Link zum Zurücksetzen des Passworts aus und sperrte den rechtmäßigen Besitzer aus. Die einzige technische Hürde war der Standort: Der Bot prüft, ob eine Anfrage aus der vertrauten Region des Kontos stammt. Die Hacker umgingen dies, indem sie ein VPN nutzten, um ihren Standort vorzutäuschen. In einigen Fällen, in denen der Bot zur Überprüfung ein Selfie anforderte, verwendeten die Angreifer ein weiteres KI-Tool, um ein gefälschtes Bild des angeblichen Kontoinhabers zu erstellen.

Die dümmste Sicherheitslücke, die ich je gesehen habe.

Schritt-für-Schritt-Anleitungen und Videos, die die Methode demonstrieren, kursierten am vergangenen Wochenende in Telegram-Hacking-Gruppen. Ein vom Cybersicherheitsforscher Dark Web Informer auf X geteiltes Video zeigte den gesamten Prozess, von der Suche nach einem Ziel-Benutzernamen bis zum Erhalt des Links zum Zurücksetzen des Passworts.

Hochkarätige Ziele kompromittiert

Zu den kompromittierten Konten gehörte das archivierte Instagram-Profil des Weißen Hauses aus der Regierungszeit von Barack Obama, das seit 2017 inaktiv war. Nach der Übernahme veröffentlichte das Konto pro-iranische Propaganda. Auch das Konto von Chief Master Sergeant der Space Force John F. Bentivegna wurde gekapert und zur Verbreitung pro-iranischer und anti-amerikanischer Inhalte genutzt. Bentivegna warnte später seine Follower auf Facebook davor, mit den Beiträgen zu interagieren.

Erfahrungen wie diese machen deutlich, dass Cybersicherheit nicht nur ein Unternehmensproblem ist, sondern etwas, mit dem wir alle in unserem täglichen Leben konfrontiert sind.

Weitere Opfer waren das Sephora-Konto, die Sicherheitsforscherin und ehemalige Meta-Mitarbeiterin Jane Manchun Wong, der Entwickler Albert Renshaw und zahlreiche Nutzer mit begehrten kurzen Benutzernamen, die auf dem Schwarzmarkt Hunderttausende von Dollar einbringen können. Wong berichtete, dass ihr Passwort ohne ihr Wissen geändert wurde und sie im Laufe des Tages mehrere unbefugte Zurücksetzungsversuche erhielt.

Mein Passwort wurde ohne mein Wissen geändert, und ich erhielt im Laufe des gestrigen Tages verschiedene Versuche, es zurückzusetzen. Ziemlich besorgniserregend.

Opfer ohne menschliche Unterstützung ausgesperrt

Betroffene Nutzer befanden sich in einer kafkaesken Schleife. Dasselbe KI-System, das die Übernahme ermöglicht hatte, war ihr einziger verfügbarer Support-Kanal, und es erwies sich als unfähig, den Zugang wiederherzustellen. Ein Opfer, der Besitzer des @korn-Kontos, beschrieb, wie er sechs Stunden damit verbrachte, Hilfe zu bekommen, und dabei nur vier defekte Links von Metas Support-KI erhielt. Das Konto war mit Meta Verified und einer Gesichtserkennung gesichert, was die Übernahme jedoch nicht verhinderte.

Eine KI hat mein Konto gestohlen, eine andere KI kann es nicht reparieren – nirgendwo ein Mensch in der Schleife.

Der Technikautor Gergely Orosz bemerkte auf X, dass Metas Trust-and-Safety-Team bei Instagram kürzlich „komplett ausgehöhlt“ worden sei, ein möglicher beitragender Faktor. Der Vorfall fällt mit massiven Personalkürzungen bei Meta zusammen, während das Unternehmen Milliarden von Dollar für KI ausgibt.

Metas Reaktion

Meta-Sprecher Andy Stone bestätigte, dass das Problem behoben sei und das Unternehmen die betroffenen Konten sichere. Er wies Behauptungen zurück, dass die Sicherheitslücke genutzt wurde, um Konten von Weltführern zu hacken, und nannte solche Berichte „völlig falsch“. Das Unternehmen hatte den KI-Support-Assistenten im März eingeführt und ihn als Tool beworben, das helfen könne, Kontoübernahmen zu verhindern. Eine unabhängige EU-Streitbeilegungsstelle stellte letzte Woche fest, dass Meta praktisch nie reagiere, wenn sie Fälle von Nutzern melde, die sagen, sie seien zu Unrecht gesperrt worden.