Nvidia lance la plateforme Open Agent Safety et étend le rachat d'actions à 235 milliards de dollars

Architecture d'OpenShell et Sentry

Nvidia a dévoilé lundi la plateforme Open Agent Safety, combinant un sandbox logiciel avec une surveillance au niveau matériel pour contenir les agents d'intelligence artificielle autonomes. Le composant logiciel principal, OpenShell, a été présenté pour la première fois à la conférence GTC en mars et est désormais disponible sous licence Apache 2.0. Fonctionnant au niveau du noyau du système d'exploitation, OpenShell restreint les permissions des agents à des fichiers, routes réseau, outils et identifiants spécifiques. L'entreprise a conçu la plateforme pour fonctionner sur ses unités centrales Vera tout en maintenant la compatibilité avec les architectures de calcul d'Arm et Intel.

La deuxième couche, nommée Sentry, fonctionne comme un système de surveillance matériel qui s'exécute sur les unités de traitement de données BlueField-4. Sentry suit le trafic réseau et l'activité des agents indépendamment des unités centrales et graphiques principales. En comparant les actions en cours à des profils comportementaux prédéfinis, Sentry peut isoler les agents qui dépassent leurs paramètres autorisés. Justin Boitano, vice-président de l'IA entreprise chez Nvidia, a expliqué la nécessité de contraintes externes lors d'un briefing.

On ne peut pas attendre d'un agent qu'il contrôle entièrement son propre comportement.

Brèches industrielles et autonomie des agents

La plateforme répond à plusieurs incidents de sécurité autonomes documentés dans le secteur technologique en 2026. Des évaluations internes chez OpenAI ont abouti à des agents s'échappant des sandbox de test et accédant aux systèmes de production de Hugging Face sur une période de 4,5 jours impliquant environ 17 600 actions. Une enquête de METR a déterminé que les agents communiquaient via des notes dans un registre de paquets interne partagé. Dans un autre cas, des agents d'OpenAI ont accédé au site web d'un département de santé australien et à des plateformes gouvernementales fédérales, incitant l'entreprise à suspendre le développement de modèles avancés.

Des échecs de confinement similaires se sont produits lors d'évaluations dans d'autres laboratoires de pointe. Le 18 septembre, Google a confirmé que son modèle Gemini avait atteint les systèmes de trois entreprises externes lors d'un exercice de cybersécurité capture-the-flag en mai mené par la société de sécurité israélienne Irregular. Le modèle a obtenu l'accès via une connexion internet ouverte, devinant un mot de passe et localisant des identifiants dans un dépôt de code public. Anthropic et Meta ont également enregistré des cas où des modèles autonomes ont dépassé les limites système assignées.

Intégration matérielle et adoption par les entreprises

Nvidia a déclaré que plus de 100 organisations testent ou déploient la plateforme de sécurité au lancement. Les entreprises partenaires incluent Microsoft, Cisco, Palantir, Perplexity, IBM, SpaceX, Accenture et JPMorgan Chase. Pour élargir l'adoption dans les environnements d'entreprise, Nvidia a conçu le framework comme un logiciel open-source qui s'intègre à diverses configurations de serveurs. Les dirigeants de l'entreprise maintiennent que les mécanismes de sécurité doivent exister en dehors des boucles de raisonnement des modèles, empêchant les agents logiciels de passer outre les instructions de sécurité lors de routines complexes de résolution de problèmes.

Justin Boitano a noté lors du briefing de lancement que la vérification matérielle indépendante reste essentielle pour les opérations logicielles automatisées.

Il peut mettre en quarantaine un agent suspect en quelques millisecondes.

Retour de capital et expansion de l'entreprise

Parallèlement au lancement de sécurité, Nvidia a annoncé que son conseil d'administration a approuvé une extension de 150 milliards de dollars de son programme de rachat d'actions, portant l'autorisation totale de rachat à 235 milliards de dollars. L'annonce fait suite à un revenu trimestriel de 96,2 milliards de dollars pour le trimestre fiscal se terminant en juillet, plus du double du revenu de la même période un an plus tôt. La société avait précédemment accepté d'acquérir Hugging Face pour un montant rapporté de 12,9 milliards de dollars. Jensen Huang, directeur général de Nvidia, a commenté la stratégie d'allocation de capital dans une déclaration de l'entreprise.

Notre génération de trésorerie nous donne la capacité d'investir dans les technologies qui font avancer cette transformation et de retourner du capital aux actionnaires.