Le PDG d'Anthropic appelle à une régulation de l'IA calquée sur la FAA, donnant aux gouvernements le pouvoir de bloquer les déploiements dangereux

Anthropic a publié un ensemble de propositions politiques agressives appelant à un nouveau régime réglementaire pour l'intelligence artificielle, le comparant directement à la supervision des aéronefs par la Federal Aviation Administration. La pièce maîtresse est un cadre avancé pour l'IA qui donnerait aux gouvernements l'autorité légale de bloquer ou d'empêcher le déploiement de modèles d'IA de pointe présentant un « risque significatif de préjudice catastrophique ».

Le cadre de sécurité proposé

Le cadre cible les modèles entraînés avec plus de 10²⁵ opérations en virgule flottante, développés par des entreprises gagnant plus de 500 millions de dollars de revenus liés à l'IA ou dépensant plus d'un milliard de dollars en R&D sur l'IA. Ce seuil capture un petit groupe : Anthropic elle-même, OpenAI, Google DeepMind, xAI et potentiellement Meta. Les pénalités civiles seraient liées au chiffre d'affaires annuel mondial et augmenteraient en cas de violations répétées.

Les modèles d'IA de pointe, comme les avions, devraient être soumis à des tests techniques et à un audit, et leur sortie devrait être bloquée ou annulée comme une menace pour la sécurité publique s'ils ne répondent pas à des normes de sécurité élevées.

Anthropic identifie quatre catégories de risque catastrophique : le développement d'armes biologiques, la découverte de vulnérabilités cybernétiques à grande échelle, la perte de contrôle sur les systèmes autonomes et l'IA qui automatise sa propre R&D. L'entreprise a cité sa propre expérience avec Mythos Preview, qui a découvert des milliers de vulnérabilités de haute sévérité dans tous les principaux systèmes d'exploitation et navigateurs, comme preuve que ces risques ne sont pas hypothétiques.

Tests obligatoires et transparence

Les développeurs de modèles de pointe seraient tenus de tester leurs modèles, de publier des résumés des résultats, de se soumettre à une évaluation indépendante, de maintenir des programmes de sécurité et de publier des rapports de risques réguliers. Amodei a fait valoir que les exigences de transparence existantes ne sont plus suffisantes.

Anthropic a longtemps plaidé pour des exigences de transparence pour l'IA de pointe, car les risques n'étaient pas encore assez clairs pour réguler avec précision. Ce n'est plus suffisant.

La proposition fait suite à un décret sur la supervision de l'IA signé par le président Donald Trump le 2 juin, qui donne à la communauté du renseignement un rôle accru dans les tests de modèles. Amodei a écrit que le décret de Trump devrait aller plus loin et exiger des tests obligatoires pour les risques liés à la cybersécurité, aux armes biologiques, à la perte de contrôle et à la R&D automatisée.

Préemption et autorité des États

Anthropic a pris une position directe contre la poussée de la Maison-Blanche pour bloquer les lois des États sur l'IA. L'entreprise a déclaré qu'elle ne croit pas que le Congrès devrait préempter la loi des États à moins qu'il n'adopte une loi fédérale au moins aussi forte que le cadre proposé. Elle a appelé à une préemption « chirurgicale », permettant aux États de réglementer en matière de sécurité des enfants et de protection des consommateurs.

Perturbation économique et protections des travailleurs

Parallèlement au cadre de sécurité, Anthropic a publié un cadre de politique économique soutenu par 350 millions de dollars de nouveaux financements. Il aborde le déplacement de main-d'œuvre lié à l'IA, la distribution du capital et le filet de sécurité sociale. Amodei a écrit que l'IA pourrait produire des perturbations beaucoup plus importantes et plus durables sur le marché du travail que les technologies précédentes.

Il est raisonnable de penser que l'IA pourrait produire des perturbations beaucoup plus importantes sur le marché du travail que les technologies précédentes, et potentiellement des perturbations plus durables.

Les propositions économiques incluent de meilleures données sur les pertes d'emplois liées à l'IA, une assurance salariale, des incitations fiscales à la rétention et éventuellement un revenu de base universel ou des comptes de capital universels. Amodei a également noté que l'opposition publique à la construction de centres de données est en grande partie un symbole d'anxiétés économiques plus larges concernant l'IA.

Implications pour les entreprises

Les propositions signalent une volatilité potentielle de la chaîne d'approvisionnement pour les entreprises qui concèdent des licences de modèles fondamentaux. Une mise à jour très attendue d'un modèle pourrait faire face à des embargos réglementaires si elle présente des risques graves en matière biologique, de cybersécurité ou d'autonomie. Le cadre représente un aperçu des contraintes opérationnelles et réglementaires qui régiront la prochaine génération de technologie d'entreprise.

Nous devons maintenant, globalement et collectivement, activer un appareil politique lent et bancal pour faire face aux risques et aux opportunités qui vont se cumuler de manière étonnamment rapide à partir de maintenant.