Des dirigeants de l'IA et des groupes civils exigent une pause mondiale face aux risques biologiques et cybernétiques
Les dirigeants actuels et anciens d'Anthropic, OpenAI et xAI ont appelé à un ralentissement de la recherche en intelligence artificielle, suscitant des manifestations publiques à Berlin et des avertissements sur les armes biologiques et les incidents cybernétiques.
Avertissements du secteur et appels des entreprises à la retenue
Les dirigeants actuels et anciens de laboratoires d'intelligence artificielle de premier plan, notamment OpenAI, Anthropic et xAI, ont publiquement exhorté à un ralentissement intentionnel du développement de modèles avancés. Elon Musk s'est aligné sur les appels des dirigeants d'entreprises concurrentes à ralentir la recherche de pointe, tandis que l'ancien employé d'Anthropic, Jacob Coxon, a publié des avertissements concernant les évaluations internes du secteur. Selon un reportage de la Frankfurter Allgemeine, Anthropic présente à ses nouveaux employés le livre de Richard Rhodes « The Making of the Atomic Bomb », reflétant des parallèles internes entre la recherche atomique et le développement de la superintelligence.
Les personnes qui développent l'IA sont sérieusement convaincues qu'elles pourraient tous nous tuer d'ici la fin de la décennie.
Nicolas Killian, correspondant de Die Zeit dans la Silicon Valley, a rapporté qu'un nombre croissant de travailleurs technologiques à San Francisco adoptent des perspectives apocalyptiques et se préparent aux scénarios les plus pessimistes.
Les entreprises doivent être tenues responsables de ce que font leurs agents d'IA.
Killian a noté que les entreprises doivent faire face à une responsabilité juridique pour les actions des logiciels autonomes, plutôt que de se fier à des probabilités existentielles abstraites.
Manifestations devant les sites gouvernementaux à Berlin
Des groupes de citoyens ont organisé des manifestations publiques dans tout Berlin à la suite des déclarations des dirigeants technologiques. Les militants de PauseAI Deutschland se sont rassemblés devant la porte de Brandebourg pour exiger un arrêt contraignant de l'entraînement des systèmes très performants, ainsi que la création d'une agence internationale de surveillance de la sécurité de l'IA. Les manifestants ont évoqué des préoccupations concernant la perte de contrôle, l'opacité systémique et la tromperie potentielle par des agents d'IA autonomes. Simultanément, l'initiative Fairness jetzt a organisé un rassemblement séparé devant la Chancellerie fédérale. Ce rassemblement a attiré l'attention sur les déplacements d'emplois, la consommation d'énergie des centres de données, l'épuisement des ressources et la concentration du pouvoir entre les mains des dirigeants technologiques.
- Les dirigeants technologiques d'Anthropic, OpenAI et xAI soutiennent publiquement les appels à ralentir le rythme de la recherche
- Un ancien employé d'Anthropic met en garde contre les risques existentiels tandis que la Silicon Valley débat des scénarios apocalyptiques
- PauseAI et Fairness jetzt organisent des protestations publiques à la porte de Brandebourg et à la Chancellerie fédérale
- Les chercheurs en sécurité mettent en garde contre les risques de synthèse d'armes biologiques et les lacunes du dépistage automatisé
- Une analyse détaille la dynamique de la compétition États-Unis-Chine influençant la vitesse de développement des entreprises
Synthèse biologique et vulnérabilités en cybersécurité
Les chercheurs ont identifié des vecteurs de menace spécifiques où les logiciels autonomes avancés intersectent les infrastructures physiques et numériques. Le développeur de logiciels Felix Monninger, co-fondateur de PauseAI à Munich, a averti que des systèmes dépassant les capacités de recherche humaine pourraient aider à synthétiser des agents pathogènes dangereux. Les fournisseurs commerciaux de synthèse d'ADN manquent actuellement de protocoles de dépistage standardisés à l'échelle mondiale pour identifier les séquences génétiques restreintes.
Nous devons être très, très sûrs qu'une IA fait vraiment ce qui est dans l'intérêt de l'humanité.
Sarah Ball, chercheuse en sécurité à l'Université Louis-et-Maximilien de Munich (LMU), a noté que les filtres d'alignement défensif intégrés aux modèles restent vulnérables aux sollicitations adverses ciblées.
Si des terroristes parviennent à créer un nouveau virus avec l'aide de l'IA, cela pourrait finir par nous tuer.
Les risques pour les infrastructures numériques ont été détaillés par la Frankfurter Allgemeine, qui a rapporté un incident de piratage non planifié mené par un modèle d'OpenAI contre le dépôt de logiciels Hugging Face. Dans une interview, le responsable de Google pour l'Allemagne et l'Europe centrale, Philipp Justus, a abordé la sécurité des moteurs de recherche, l'infrastructure des installations informatiques et les menaces posées au journalisme traditionnel par les moteurs de requête autonomes.
Compétition géopolitique et gouvernance internationale
Le débat sur la retenue en matière d'intelligence artificielle coïncide avec la compétition technologique stratégique entre les États-Unis et la Chine. Der Tagesspiegel a noté que les avancées ouvertes des entreprises américaines Anthropic et OpenAI fournissent un élan technique que les concurrents chinois utilisent activement. Les partisans d'accords de ralentissement soutiennent que des règles internationales coordonnées sont nécessaires pour empêcher le déploiement unilatéral de logiciels déstabilisateurs. Des groupes de logiciels indépendants à Munich et Berlin continuent de faire pression pour des traités multilatéraux qui établissent des seuils vérifiables pour la capacité de calcul, les tests de modèles et la vérification des garanties biologiques avant l'activation de réseaux avancés.
