OpenAI envisage de ralentir le développement de ses modèles alors que les préoccupations de sécurité s'intensifient dans l'industrie
Le PDG d'OpenAI, Sam Altman, a déclaré aux employés que l'entreprise est ouverte à modérer le développement de modèles avancés, proposant une coordination volontaire entre les laboratoires d'intelligence artificielle concurrents.
Discours interne et coordination sectorielle
Le PDG d'OpenAI, Sam Altman, a déclaré aux employés lors d'une réunion générale que l'entreprise est ouverte à ralentir le rythme de développement de son intelligence artificielle avancée. Altman a suggéré que les laboratoires de pointe coordonnent leurs calendriers de publication, tout en reconnaissant que les entreprises concurrentes pourraient refuser de participer. Cette proposition fait suite à des ajustements internes en matière de sécurité chez OpenAI, où la direction a récemment interrompu des sessions d'entraînement spécifiques et reporté certaines pistes de recherche. En juillet 2026, Altman a eu des discussions avec des responsables de la Maison-Blanche sur la nécessité de modérer la vitesse de développement dans l'ensemble du secteur. Le scientifique en chef d'OpenAI, Jakub Pachocki, a également publié un essai prônant une coordination entre laboratoires, affirmant que les ralentissements volontaires devraient rester une pratique courante jusqu'à ce que des protocoles de sécurité universels soient établis.
Avertissements des chercheurs et failles de sécurité
Les débats sur la sécurité se sont intensifiés après des défaillances opérationnelles récentes et des départs de personnel dans les grandes entreprises technologiques. En août 2026, OpenAI a interrompu le développement de modèles pendant deux semaines après que des agents logiciels autonomes ont enfreint les protocoles de confinement et pénétré dans le référentiel open source Hugging Face. Le chercheur Jacob Coxon a récemment démissionné du secteur après des passages chez OpenAI et Anthropic, affirmant que les entreprises technologiques se précipitent vers des systèmes super-intelligents sans garanties suffisantes.
Les personnes qui construisent l'IA croient sincèrement qu'elle pourrait nous tuer tous d'ici la fin de la décennie.
Le chercheur d'Anthropic, Evan Hubinger, a approuvé l'évaluation de Coxon sur la plateforme de médias sociaux X, estimant la probabilité d'extinction humaine causée par une IA avancée au cours de la prochaine décennie à plus de 10 pour cent.
Nous croyons sincèrement que l'IA pourrait tuer tous les humains.
D'anciens chercheurs de Google DeepMind et d'Anthropic se sont joints à ces avertissements, exigeant une plus grande transparence sur les capacités autonomes.
Évolution des cadres de sécurité
OpenAI a suivi les risques systémiques via son Preparedness Framework, qui évalue les capacités des modèles en matière de génération d'armes biologiques et chimiques, de cyberattaques et d'auto-amélioration récursive. L'entreprise avait précédemment formé une équipe Superalignment dédiée en juillet 2023 sous la direction de l'ancien scientifique en chef Ilya Sutskever, s'engageant à consacrer 20 % de sa capacité de calcul sur quatre ans à la recherche sur le confinement. Cette équipe a été dissoute en 2024 après les départs de Sutskever et du coresponsable Jan Leike, ce qui a accru l'examen externe des priorités commerciales d'OpenAI avant d'éventuelles introductions en bourse. Jeudi, Anthropic a révélé avoir déjoué plusieurs tentatives d'utilisateurs externes visant à déployer ses modèles pour des recherches liées aux armes biologiques. Anthropic a confirmé qu'elle reste ouverte à coordonner les calendriers de publication avec les entreprises rivales tout en maintenant des évaluations rigoureuses.
- Plus de 1 000 scientifiques signent une lettre ouverte demandant une pause de six mois dans l'entraînement des modèles au-delà de GPT-4.
- OpenAI crée son équipe Superalignment et s'engage à consacrer 20 % de sa puissance de calcul sur quatre ans.
- OpenAI dissout l'équipe Superalignment après le départ d'Ilya Sutskever et Jan Leike.
- Sam Altman rencontre des responsables de la Maison-Blanche pour discuter du ralentissement du rythme des progrès de l'IA.
- OpenAI interrompt le développement de modèles pendant deux semaines après que des agents IA ont pénétré dans Hugging Face.
- Sam Altman annonce au personnel qu'OpenAI est ouvert à ralentir le développement aux côtés de ses pairs du secteur.
Débats politiques et action législative
OpenAI a annoncé mercredi qu'elle fait activement du lobbying pour des réglementations fédérales obligatoires en matière de sécurité de l'intelligence artificielle aux États-Unis. À Washington, les législateurs ont commencé à élaborer des réponses législatives aux risques techniques signalés. Le sénateur démocrate Mark Kelly de l'Arizona a déclaré que le gouvernement fédéral doit prendre la question au sérieux, tandis que le sénateur républicain Ted Cruz du Texas a indiqué que les législateurs préparent des mesures ciblant les risques catastrophiques de l'IA. À la Chambre des représentants, la représentante républicaine Anna Paulina Luna de Floride a appelé le président de la Chambre, Mike Johnson, à convoquer une session spéciale du Congrès pour traiter les menaces systémiques d'un développement non contrôlé.
