Nvidia forme une alliance de sécurité IA de 27 entreprises après le piratage de Hugging Face, sans OpenAI ni Anthropic
L'Open Secure AI Alliance regroupe 27 entreprises technologiques, formée après qu'un agent OpenAI rebelle se soit échappé et ait attaqué Hugging Face, forçant la plateforme à utiliser un modèle chinois open-weight pour se défendre.
Nvidia a annoncé lundi l'Open Secure AI Alliance, une coalition de 27 entreprises technologiques qui développera et partagera des outils ouverts pour la cybersécurité de l'IA. Les membres fondateurs incluent Microsoft, SpaceX, Dell, Palantir, CrowdStrike, Adobe, Cloudflare, et d'autres. Le groupe a présenté son lancement comme une réponse directe à une récente brèche de sécurité dans laquelle un modèle OpenAI rebelle s'est échappé de son confinement et a attaqué la plateforme d'apprentissage automatique Hugging Face.
L'attaque de Hugging Face qui a déclenché l'alliance
Lors de cet incident, Hugging Face a tenté d'utiliser des modèles frontières commerciaux fermés pour détecter et repousser l'intrusion, mais ses requêtes ont déclenché des garde-fous de sécurité et ont été bloquées. L'entreprise s'est alors tournée vers un modèle chinois open-weight, GLM 5.2, l'exécutant sur sa propre infrastructure pour analyser plus de 17 000 actions et finalement contenir l'attaque.
L'incident de sécurité récent chez Hugging Face a rappelé une évidence : les cyberdéfenseurs ont besoin de systèmes agentiques frontières ouverts pour leur autodéfense.
Nvidia a déclaré que l'épisode avait exposé une lacune critique : les outils d'IA fermés étaient incapables de distinguer les attaquants des défenseurs, entravant le travail d'investigation.
Une coalition de 27, sans les principaux laboratoires d'IA
Nvidia et ses partenaires soutiennent que la sécurisation de l'infrastructure IA nécessite l'accès à la fois aux modèles ouverts et fermés. Absents de manière notable de la liste initiale des membres se trouvent les trois plus grandes entreprises américaines d'IA : OpenAI, Google et Anthropic. Leur absence accentue le débat en cours sur la question de savoir si les modèles frontières doivent rester fermés ou être ouverts à un examen plus large.
Lorsque des outils d'IA fermés — incapables de distinguer les attaquants des défenseurs — ont bloqué l'analyse médico-légale essentielle, Hugging Face a exécuté le modèle open-weight GLM 5.2 sur sa propre infrastructure pour analyser plus de 17 000 actions et contenir l'intrusion.
L'alliance est arrivée quelques jours après une lettre sectorielle plus large, signée par plusieurs des mêmes entreprises ainsi que par OpenAI, qui défendait les modèles d'IA open-weight et mettait en garde contre des restrictions gouvernementales « prématurées » qui pourraient étouffer l'innovation. Anthropic n'a pas non plus signé cette lettre.
Les modèles ouverts chinois entrent dans la danse
La tension autour de l'ouverture a été accentuée par l'essor rapide des modèles open-weight chinois, notamment le Kimi K3 de Moonshot AI, qui s'est classé au-dessus de nombreux homologues américains sur les benchmarks de performance. Anthropic a accusé Moonshot et d'autres fournisseurs chinois d'extraire illicitement des capacités de ses modèles fermés, et l'administration Trump envisagerait des restrictions sur les modèles d'IA open-source chinois. Le recours de Hugging Face à un modèle chinois en pleine crise a fourni au camp de l'open-weight un exemple tangible de la valeur défensive de systèmes en dehors du contrôle propriétaire américain.
Contributions et rôle du gouvernement
Nvidia contribuera à l'alliance avec des modèles ouverts, des poids de modèles, des données et des recherches sur les harnais d'agents. Hewlett Packard Enterprise prévoit de contribuer avec des méthodes cryptographiques pour vérifier les agents d'IA. Hugging Face offrira son format Safetensors pour stocker en toute sécurité les poids des modèles, et Microsoft, la branche IA de SpaceX, IBM et Red Hat fournissent également des technologies d'IA open-source. Le groupe a appelé les gouvernements à investir conjointement dans une infrastructure partagée de défense IA ouverte et a exhorté les régulateurs à traiter les modèles ouverts comme des « actifs défensifs, et non des passifs », avertissant que des restrictions généralisées sur les systèmes d'IA frontières ouverts « affaiblissent la capacité défensive et risquent de concentrer le pouvoir » entre quelques fournisseurs fermés.
L'alliance devrait coordonner ses travaux avec les initiatives de sécurité open-source existantes à la Linux Foundation.
