Des pirates trompent le chatbot IA de Meta pour prendre le contrôle de comptes Instagram, dont le profil de la Maison-Blanche d’Obama

Une vulnérabilité dans le chatbot de support client alimenté par l’IA de Meta a permis à des pirates de prendre le contrôle de comptes Instagram en demandant simplement à l’assistant d’ajouter une nouvelle adresse électronique et de réinitialiser le mot de passe. L’exploit, qui ne nécessitait ni logiciel malveillant ni hameçonnage, a été démontré dans des vidéos circulant sur X et Telegram et confirmé par plusieurs chercheurs en sécurité.

Comment l’attaque a fonctionné

La méthode reposait entièrement sur l’ingénierie sociale dirigée contre l’assistant d’assistance IA de Meta, l’agent conversationnel conçu pour aider les utilisateurs à récupérer et gérer leurs comptes. Un attaquant utilisait d’abord un VPN pour masquer sa localisation et éviter de déclencher les défenses automatisées de Meta. Il engageait ensuite une conversation avec le bot d’assistance et demandait qu’une nouvelle adresse électronique soit liée au compte cible.

Au lieu de vérifier l’identité du demandeur via l’adresse électronique d’origine enregistrée, le chatbot envoyait un code de vérification directement à l’adresse fournie par l’attaquant. Une fois que le pirate renvoyait ce code dans la conversation, l’IA affichait un bouton de réinitialisation du mot de passe, cédant ainsi le contrôle du compte. TechCrunch a indiqué avoir vérifié des éléments de la procédure, confirmant que le code de vérification était bien envoyé à l’adresse électronique de l’attaquant.

Comptes compromis

Parmi les profils concernés figuraient le compte officiel de la Maison-Blanche de l’administration Obama, inactif depuis 2017 et archivé sous l’égide des National Archives and Records Administration, ainsi que le compte du Chief Master Sergeant John Bentivegna de l’US Space Force. Le compte de la marque Sephora a également été compromis, selon The Guardian. Des dizaines d’utilisateurs ordinaires ont signalé des incidents similaires sur Reddit et X.

La chercheuse en sécurité Jane Wong a déclaré que son propre compte Instagram avait été piraté. « Mon mot de passe a été changé sans que je le sache et j’ai reçu plusieurs tentatives de réinitialisation tout au long de la journée d’hier. C’est assez inquiétant », a-t-elle écrit sur X.

Réponse de Meta

Le porte-parole d’Instagram, Andy Stone, a confirmé que le problème de sécurité avait été corrigé. « Un correctif a été appliqué », a déclaré Stone en réponse au message original de Wong. L’entreprise a indiqué qu’elle s’efforçait de sécuriser les comptes qui auraient pu être affectés, mais n’a pas révélé combien de comptes avaient été compromis avant la fermeture de la vulnérabilité.

Meta avait déployé l’assistant d’assistance IA à l’échelle mondiale plus tôt cette année pour Facebook et Instagram, le décrivant comme un outil permettant d’automatiser des opérations telles que le signalement de fraudes, le signalement d’usurpations d’identité et les réinitialisations de mots de passe. L’incident soulève de nouvelles questions sur le déploiement de grands modèles de langage dans des processus de sécurité sensibles où des agents humains contesteraient normalement les demandes inhabituelles de modification de données.

Mon mot de passe a été changé sans que je le sache et j’ai reçu plusieurs tentatives de réinitialisation tout au long de la journée d’hier. C’est assez inquiétant.

Un correctif a été appliqué.