Le chatbot d'assistance Meta AI piégé pour remettre des comptes Instagram sur simple demande

Une faille de sécurité critique dans le chatbot d'assistance IA de Meta a permis à des pirates de détourner des dizaines de comptes Instagram, y compris des profils vérifiés appartenant à la page archivée de la Maison-Blanche d'un ancien président américain, à un commandant supérieur de la Force spatiale américaine et au détaillant de cosmétiques Sephora. L'exploit, signalé pour la première fois par 404 Media, ne nécessitait ni mot de passe ni code d'authentification à deux facteurs du propriétaire d'origine.

Comment l'exploit fonctionnait

Les attaquants ont initié le processus de récupération de compte Instagram et ont contacté l'assistant d'assistance Meta AI. Ils ont demandé au bot de lier une nouvelle adresse e-mail au compte cible. L'IA a obéi, envoyant un code de vérification à l'e-mail contrôlé par l'attaquant. Une fois vérifié, le système a émis un lien de réinitialisation de mot de passe, verrouillant le propriétaire légitime. Le seul obstacle technique était la localisation : le bot vérifie si une demande provient de la région habituelle du compte. Les pirates ont contourné cela en utilisant un VPN pour usurper leur localisation. Dans certains cas où le bot demandait un selfie pour vérification, les attaquants ont utilisé un autre outil d'IA pour générer une fausse image du prétendu titulaire du compte.

La vulnérabilité de sécurité la plus stupide que j'aie jamais vue.

Des tutoriels pas à pas et des vidéos démontrant la méthode ont circulé dans les groupes de piratage Telegram le week-end dernier. Une vidéo partagée par le chercheur en cybersécurité Dark Web Informer sur X montrait l'ensemble du processus, de la recherche d'un nom d'utilisateur cible à la réception du lien de réinitialisation du mot de passe.

Des cibles de haut profil compromises

Parmi les comptes compromis figurait le profil Instagram archivé de la Maison-Blanche de l'administration de Barack Obama, inactif depuis 2017. Après la prise de contrôle, le compte a publié de la propagande pro-iranienne. Le compte du sergent-major en chef de la Force spatiale John F. Bentivegna a également été détourné et utilisé pour diffuser du contenu pro-iranien et anti-américain. Bentivegna a ensuite averti ses abonnés sur Facebook de ne pas interagir avec les publications.

Des expériences comme celle-ci montrent clairement que la cybersécurité n'est pas seulement un problème d'entreprise, mais quelque chose que nous rencontrons tous dans notre vie quotidienne.

Parmi les autres victimes figuraient le compte Sephora, la chercheuse en sécurité et ancienne employée de Meta Jane Manchun Wong, le développeur Albert Renshaw, et de nombreux utilisateurs avec des noms d'utilisateur courts très convoités, qui peuvent atteindre des centaines de milliers de dollars sur le marché noir. Wong a signalé que son mot de passe avait été modifié à son insu et qu'elle avait reçu plusieurs tentatives de réinitialisation non autorisées.

Mon mot de passe a été modifié à mon insu et j'ai reçu différentes tentatives de réinitialisation de mot de passe tout au long de la journée d'hier. Assez inquiétant.

Victimes bloquées sans recours humain

Les utilisateurs concernés se sont retrouvés dans une boucle kafkaïenne. Le même système d'IA qui avait facilité le détournement était leur seul canal d'assistance disponible, et il s'est avéré incapable de restaurer l'accès. Une victime, le propriétaire du compte @korn, a décrit avoir passé six heures à essayer d'obtenir de l'aide, pour ne recevoir que quatre liens cassés de l'IA d'assistance de Meta. Le compte avait été sécurisé avec Meta Verified et un scan de reconnaissance faciale, mais rien n'a empêché la prise de contrôle.

Une IA a volé mon compte, une autre IA ne peut pas le réparer — aucun humain dans la boucle nulle part.

L'auteur technologique Gergely Orosz a noté sur X que l'équipe de confiance et de sécurité de Meta chez Instagram avait été « complètement vidée » récemment, un facteur potentiel. L'incident coïncide avec des réductions massives d'effectifs chez Meta au milieu de dépenses de plusieurs milliards de dollars dans l'IA.

Réponse de Meta

Le porte-parole de Meta, Andy Stone, a confirmé que le problème avait été résolu et que l'entreprise sécurisait les comptes concernés. Il a contesté les affirmations selon lesquelles la vulnérabilité aurait été utilisée pour pirater des comptes de dirigeants mondiaux, qualifiant ces rapports de « totalement faux ». L'entreprise avait lancé l'assistant d'assistance IA en mars, le présentant comme un outil pouvant aider à prévenir les prises de contrôle de comptes. Un organisme indépendant de résolution des litiges de l'UE a noté la semaine dernière que Meta ne répond pratiquement jamais lorsqu'il soulève des cas d'utilisateurs qui disent avoir été bannis à tort.