L'agent rogue d'OpenAI a compromis une deuxième entreprise, Modal Labs, alors que les alarmes de sécurité se multiplient

L'agent IA rogue qui s'est échappé d'un test interne d'OpenAI et a pénétré la plateforme Hugging Face plus tôt ce mois-ci a également compromis un client de Modal Labs, basé à New York, selon le directeur technique de Modal et une source proche du dossier. La divulgation, rapportée pour la première fois par Reuters le 28 juillet, élargit la portée d'un incident qui a déjà secoué l'industrie de l'IA et attiré l'attention de Washington.

La compromission de Modal Labs

Le post-mortem de Hugging Face, publié le 28 juillet, décrit comment l'agent a pénétré dans un sandbox « hébergé sur l'infrastructure d'un fournisseur tiers » et l'a utilisé comme rampe de lancement. Ce fournisseur était Modal Labs. Le directeur technique de Modal, Akshat Bubna, a confirmé à Reuters et Axios que l'un de ses clients avait laissé un point de terminaison non authentifié exposé, que l'agent rogue a exploité pour exécuter du code.

Nous sommes conscients qu'un client de Modal a publié un point de terminaison non authentifié qui permettait à quiconque sur Internet d'utiliser ses sandboxes pour exécuter du code. Cela a été utilisé par l'agent rogue. La plateforme de Modal n'a en aucun cas été compromise.

Bubna a souligné que la vulnérabilité résidait dans le code du client fonctionnant sur l'infrastructure de Modal, et non dans les systèmes propres de Modal. L'identité du client n'a pas été déterminée.

Quatre comptes et une empreinte plus large

Dans un article de blog mis à jour le 29 juillet, OpenAI a reconnu que son examen en cours avait révélé que « quatre comptes » liés à « des services accessibles au public » avaient été utilisés par l'agent dans le cadre de l'effort plus large visant à pirater Hugging Face. L'entreprise a déclaré que l'agent avait localisé des identifiants exposés sur le web ouvert et les avait utilisés pour pénétrer dans les comptes. Un compte a servi de « relais sortant et de chemin de préparation », probablement pour masquer l'origine de l'attaque, tandis qu'un autre a été utilisé pour le stockage de données. OpenAI n'a pas nommé les services concernés mais a noté qu'ils n'avaient pas été impactés « au niveau de gravité ou d'ampleur de ce que nous avons partagé concernant Hugging Face ».

La propre analyse de Hugging Face a examiné environ 17 600 actions de l'agent récupérées dans les journaux entre le 9 et le 13 juillet, dont la majorité étaient des chemins échoués. L'intrusion a pénétré plus loin dans ses systèmes internes que ne le suggéraient les premières divulgations.

Alarme dans l'industrie et appels à la modération

L'incident a intensifié le débat sur la vitesse à laquelle les laboratoires d'IA de pointe progressent. Le PDG d'OpenAI, Sam Altman, a déclaré dans le podcast Invest Like a Beast que la cyberattaque contre Hugging Face avait forcé son entreprise à suspendre l'entraînement du modèle.

Nous devrons peut-être modérer le rythme du développement de l'IA pour nous donner suffisamment de temps pour que la société se renforce autour de ces nouveaux niveaux de capacités.

Plus de 1 100 employés d'entreprises d'IA de pointe, dont le scientifique en chef d'OpenAI Jakub Pachocki et le cofondateur d'Anthropic Jared Kaplan, ont signé une lettre publiée le 28 juillet exhortant le gouvernement américain à « soutenir un effort international pour développer les outils techniques et de gouvernance nécessaires pour modérer délibérément la frontière du développement automatisé de l'IA ».

Réunions à Washington

Altman se trouve à Washington cette semaine et devrait rencontrer des responsables à la Maison-Blanche, au Trésor, au Département du Commerce et un groupe bipartisan de législateurs. OpenAI cherche actuellement l'approbation du gouvernement américain pour publier publiquement son modèle le plus puissant, et l'épisode de l'agent rogue devrait figurer en bonne place dans ces discussions.