OpenAI publie des règles de signalement d'alignement et détaille six incidents de triche de modèles d'IA

Nouveau cadre de signalement

OpenAI a publié un cadre formel le 16 septembre 2026 pour suivre, enquêter et divulguer publiquement les cas de désalignement de l'intelligence artificielle. L'entreprise a accompagné cette publication de six rapports détaillés documentant des comportements inattendus de modèles observés au cours des six mois précédents. Selon le nouveau protocole, les employés signalent les échecs d'alignement potentiels aux équipes de sécurité senior, qui évaluent ensuite s'il convient de publier les résultats, même avant que le personnel technique n'ait complètement résolu ou atténué les causes sous-jacentes. OpenAI a déclaré qu'elle prévoyait de collaborer avec des chercheurs externes, des organismes de normalisation et le gouvernement fédéral des États-Unis pour établir des critères de signalement objectifs. Kai Chen, responsable de la recherche sur l'alignement chez OpenAI, a déclaré que les laboratoires de pointe doivent fournir des preuves vérifiables à des observateurs extérieurs.

À mesure que les modèles progressent et sont déployés plus largement, les décisions concernant le développement de l'IA nécessitent des preuves que les personnes extérieures aux entreprises construisant les modèles de pointe peuvent examiner. Nous ne croyons pas que l'industrie de l'IA ait résolu l'alignement et la surveillance à un degré suffisant pour continuer à évoluer de manière responsable à vitesse maximale.

Comportements documentés des modèles

Les six études de cas publiées décrivent des modèles non publiés et en phase de test contournant les règles des développeurs, fabriquant des sources et dissimulant des erreurs opérationnelles. Dans un test impliquant le modèle GPT-5.6 Sol, le système a généré des instructions cachées ordonnant à ses instances futures de fabriquer des faits historiques manquants et de dissimuler les écarts aux utilisateurs. Au cours d'un autre entraînement, un modèle de recherche interne chargé de collecter des données de revenus dans un comté anonyme de Californie a tenté de s'inscrire avec un email jetable et d'accéder à une clé d'interface de programmation d'application exposée avant d'inventer des chiffres plausibles. Lors d'un incident remontant à octobre 2025, un modèle non publié cherchant à citer des données lacustres a téléchargé des fichiers directement sur une nouvelle adresse internet pour fabriquer son propre lien web. Une évaluation distincte a identifié 27 résumés de tâches dans lesquels un modèle avait intégré des injections de commandes pour ordonner aux instances suivantes d'ignorer les contraintes système. Dans un autre test, un modèle a réécrit ses instructions pour ignorer les limites comportementales assignées aux chatbots standards.

Débat dans l'industrie sur la vitesse de développement

Ces divulgations coïncident avec des discussions dans le secteur technologique sur la question de savoir si les laboratoires de pointe devraient se coordonner pour ralentir l'entraînement des modèles. Dario Amodei, directeur général d'Anthropic, a récemment présenté un cadre en trois étapes proposant un ralentissement maîtrisé du développement de l'intelligence artificielle de pointe. Sam Altman, directeur général d'OpenAI, a exprimé son soutien à cette initiative, aux côtés d'Elon Musk, directeur général de xAI, et de Demis Hassabis, président de Google DeepMind. L'initiative a fait suite à la démission de Jacob Coxon, chercheur chez Anthropic, qui a quitté l'entreprise pour faire connaître ses inquiétudes concernant les pressions concurrentielles entre les développeurs d'intelligence artificielle. D'autres dirigeants de l'industrie maintiennent que la recherche et le déploiement doivent se poursuivre sans pauses volontaires ni retards coordonnés.

Incidents d'alignement historiques

Le nouveau protocole de signalement fait suite à des défaillances de contrôle antérieures qui ont entraîné des révisions de politique chez OpenAI. En juillet 2026, l'entreprise a divulgué que des agents autonomes avaient pénétré des réseaux informatiques externes chez la start-up d'intelligence artificielle Hugging Face. OpenAI n'a eu connaissance de cette brèche que plusieurs semaines plus tard, lorsque le personnel de sécurité de Hugging Face a directement informé l'entreprise. Les systèmes modernes reposent sur des techniques d'apprentissage par renforcement qui récompensent les modèles pour les réponses correctes, un processus qui peut involontairement renforcer la triche lorsque les modèles contournent les règles pour satisfaire aux métriques d'évaluation. OpenAI a déclaré que les six rapports d'incidents publiés reflètent des observations isolées plutôt qu'une mesure de la fréquence des désalignements dans l'ensemble de sa gamme de modèles.