Le PDG d'Anthropic, Dario Amodei, propose un plan en trois phases pour ralentir le développement de l'IA
Dario Amodei a averti que des essaims d'agents d'IA non contrôlés pourraient prendre le contrôle des réseaux internet dans un délai de 6 à 12 mois, proposant un cadre progressif pour une coordination industrielle et mondiale.
Croissance exponentielle et risques réseau
Le directeur général d'Anthropic, Dario Amodei, a averti que l'intelligence artificielle progresse à un rythme exponentiel, ce qui nécessite la mise en place immédiate de garde-fous par le secteur technologique. Sans ralentissements intentionnels, Amodei a déclaré que des essaims d'agents autonomes pourraient prendre le contrôle des infrastructures internet dans un délai de 6 à 12 mois, soit environ 180 jours. Un tel scénario pourrait générer des centaines de milliards de dollars de dommages sur les réseaux informatiques, faisant référence aux vulnérabilités observées lors de l'incident précédent entre OpenAI et Hugging Face. Dans un entretien préliminaire pour CBS News Sunday Morning, Amodei a comparé la trajectoire des capacités de l'IA à une série de doubles rapides de un à deux, quatre, huit, seize et trente-deux. Il a souligné que, même si les développeurs ne doivent pas paniquer ni geler tout travail immédiatement, la courbe qui s'accentue constitue une sonnette d'alarme urgente.
Je ne pense pas avoir pleinement compris ce qu'un progrès aussi rapide signifierait vraiment.
Trois phases pour un développement régulé
Pour gérer la vitesse des versions de modèles de pointe, Amodei a publié un essai proposant un plan structuré en trois phases destiné aux développeurs et aux décideurs politiques. La première phase se concentre sur les évaluateurs intégrés, où Anthropic s'engage unilatéralement à accorder à des évaluateurs externes indépendants un accès continu pour tester et vérifier les systèmes. L'entreprise a également exhorté les gouvernements à exiger légalement que tous les laboratoires d'intelligence artificielle de pointe adoptent un accès identique pour les évaluateurs. La deuxième phase appelle à une coordination démocratique au sein du secteur privé, exigeant que les entreprises d'intelligence artificielle établissent et appliquent des bases de sécurité communes. La troisième phase étend le régime à une coordination mondiale entre les gouvernements nationaux, établissant une parité internationale pour les règles de sécurité de pointe.
- Anthropic adopte unilatéralement des évaluateurs externes intégrés et exhorte les gouvernements à imposer des mandats pour les laboratoires de pointe
- Les entreprises d'IA de pointe établissent une coordination à l'échelle de l'industrie autour de normes de sécurité partagées
- La coordination internationale aligne les normes de sécurité et le rythme entre les pays
Préserver la compétitivité et le temps de sécurité
Amodei a soutenu que la modération des avancées en matière de capacités donne aux chercheurs un temps crucial pour résoudre les problèmes d'alignement avant que les modèles n'atteignent des seuils dangereux. Gagner une ou deux années supplémentaires réduirait considérablement les risques systémiques sans éliminer la viabilité commerciale des entreprises d'intelligence artificielle. Il a souligné qu'une stratégie de rythme coordonnée permet aux développeurs de mener la prévention des risques nécessaire tout en préservant le leadership des États-Unis dans la technologie de pointe. Amodei a noté que les efforts passés pour résoudre la sécurité en investissant simplement dans des garanties ne sont plus suffisants sans contrôler le rythme des améliorations des capacités.
Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA. Le progrès semblera toujours rapide, et nous devons faire bon usage du temps que nous gagnons.
Réaction de l'industrie et débat sur la gouvernance
La proposition a rapidement reçu le soutien public d'autres figures technologiques éminentes, notamment le dirigeant de SpaceX, Elon Musk, et le directeur général d'OpenAI, Sam Altman. Anthropic a noté que ses avertissements précédents et son plaidoyer politique avaient attiré des accusations de sensationnalisme, de pessimisme excessif et de capture réglementaire de la part de critiques de l'industrie. Amodei a maintenu que l'intelligence artificielle a la capacité d'agir comme une percée technologique bénéfique pour des domaines comme la santé, mais a soutenu que ses exigences de puissance sévères nécessitent une gouvernance proactive. L'entreprise poursuit ses engagements d'évaluation externe de la phase 1 tout en exhortant les concurrents et les régulateurs internationaux à mettre en œuvre des mécanismes de rythme coordonnés.
