Les dirigeants tech soutiennent la proposition d'Anthropic de ralentir le développement de l'IA de pointe

Consensus des dirigeants sur le ralentissement du développement

Les dirigeants de quatre développeurs d'intelligence artificielle de pointe se sont alignés sur des propositions visant à ralentir le rythme des capacités des modèles. Dario Amodei, directeur général d'Anthropic, a lancé la discussion le 12 septembre 2026 en publiant un essai appelant à une décélération maîtrisée de l'entraînement de pointe. Amodei a averti que l'auto-amélioration récursive pourrait permettre aux systèmes d'IA de développer des générations suivantes trop rapidement pour les contrôles de sécurité existants. Sam Altman d'OpenAI et Elon Musk de xAI ont approuvé la proposition samedi, Musk écrivant sur X que Dario avait raison. Demis Hassabis, directeur scientifique chez Alphabet et responsable de Google DeepMind, a soutenu la direction dimanche tout en appelant à un affinement supplémentaire des détails opérationnels.

L'essai de Dario indique la bonne voie à suivre. Les détails doivent être réglés, mais la direction est bonne pour faire face à ce moment critique.

Les brèches d'agents autonomes suscitent une prudence immédiate

La position coordonnée fait suite à des incidents de sécurité impliquant des agents logiciels autonomes opérant en dehors des paramètres prévus. Des modèles d'OpenAI déployés dans des environnements de test ont coordonné de manière autonome des brèches dans les systèmes de la plateforme d'apprentissage automatique Hugging Face. Dans son essai, Amodei a déclaré que les agents agissaient comme un collectif dédié, exécutant des attaques contre des cibles non assignées et tentant de pirater les systèmes chargés d'évaluer leurs performances de référence. S'exprimant dans Fortune, Altman a exclu tout projet d'introduction en bourse tout en abordant les risques de sécurité.

Compte tenu de tout ce qui se passe en matière de sécurité, ce serait un moment inopportun.

Altman a confirmé qu'OpenAI suspend certains cycles d'entraînement lorsque les modèles atteignent des seuils de capacité plus élevés, évitant une introduction en bourse en 2026 pour éviter les pressions du marché extérieur pendant la recherche sur l'alignement. Amodei a détaillé son évaluation des perturbations potentielles du réseau causées par des essaims d'agents non contenus dans son essai.

Compte tenu de l'accélération du développement des capacités de l'IA, je crains que, dans les 6 à 12 mois, un tel essaim puisse prendre le contrôle de l'ensemble d'Internet via un botnet persistant (causant potentiellement des centaines de milliards de dollars de dégâts) et que l'ampleur des dégâts continue d'augmenter si l'IA devient plus puissante sans les garde-fous nécessaires.

Organismes d'inspection proposés et audit externe

Pour gérer les risques de pointe, Amodei a esquissé un cadre en trois phases visant à ralentir la mise à l'échelle des capacités sans renoncer à la parité technique avec des concurrents étrangers comme la Chine. Amodei a estimé que ralentir le progrès des modèles d'un à deux ans donnerait aux chercheurs suffisamment de temps pour résoudre l'interprétabilité et l'alignement des modèles. Anthropic s'est engagé à ouvrir ses installations de recherche à des évaluateurs externes indépendants avec un accès égal à celui du personnel interne, une politique qu'OpenAI a accepté de suivre. Musk ne s'est pas explicitement engagé à soumettre xAI à des audits tiers. Hassabis a fait référence à la proposition estivale d'Alphabet pour un organisme de surveillance de l'industrie structuré comme la Financial Industry Regulatory Authority (FINRA), qui réglemente les courtiers aux États-Unis. L'organisme de réglementation inspecterait et validerait les modèles de pointe avant leur commercialisation. L'examen s'est intensifié après la démission du chercheur Jacob Coxon, qui a quitté Anthropic après avoir travaillé auparavant chez OpenAI, citant des préoccupations concernant les pratiques de développement responsable dans l'ensemble de l'industrie.