Le roi Charles exhorte les dirigeants de la tech à préserver le contrôle humain lors du sommet sur l'IA
Le roi Charles III recevra ce jeudi les dirigeants de Nvidia, Google DeepMind, OpenAI et Anthropic à Dumfries House, en Écosse, pour des discussions privées sur la gestion des risques liés aux systèmes autonomes.
Convocation royale à Dumfries House
Le roi Charles III réunira ce jeudi des grands patrons de la tech, des ministres et des conseillers politiques à Dumfries House, dans l'Ayrshire, en Écosse, pour aborder la sécurité de l'intelligence artificielle. Cette réunion privée rassemble environ trente leaders du secteur, coordonnée conjointement par la King's Foundation, la King's Trust, la Sustainable Markets Initiative et la Ditchley Foundation. Bien que le monarque britannique ne participe pas directement aux ateliers à huis clos, il prononcera un discours d'ouverture avant le début des débats. Le palais de Buckingham a confirmé que le sommet vise à examiner si des principes communs peuvent guider le déploiement de systèmes informatiques avancés pour protéger la dignité humaine et l'environnement naturel. Les ateliers se dérouleront jusqu'en fin d'après-midi dans ce domaine écossais du XVIIIe siècle, les organisateurs privilégiant des cadres de coopération en matière de sécurité plutôt que des traités législatifs formels.
L'appel du roi aux dirigeants de la tech
Dans son discours d'ouverture, le roi Charles décrira l'évolution rapide de l'intelligence artificielle comme à la fois intrigante et profondément préoccupante. Le monarque britannique exhortera les entreprises technologiques à fournir des assurances claires au public que l'humanité ne cédera pas le contrôle de son avenir à des logiciels autonomes.
La tâche qui vous incombe n'est pas seulement de faire progresser la technologie, mais de veiller à ce qu'elle reste fermement au service de l'humanité, de la communauté et du monde naturel.
Le roi Charles dira aux délégués que ceux qui attachent de l'importance à la composante morale essentielle de l'humanité attendent avec inquiétude des garanties quant à la direction du progrès technologique. Il soulignera également que les décisions prises durant cette période de formation détermineront les conditions héritées par les générations futures. Des responsables du palais ont déclaré que le monarque entend encourager la coopération internationale afin que la sécurité reste centrale et qu'aucun pays ne soit laissé de côté à mesure que de nouvelles capacités se développent.
Participation de la Silicon Valley et des gouvernements
La liste des invités à Dumfries House comprend les dirigeants des développeurs d'intelligence artificielle et des fabricants de semi-conducteurs les plus en vue au monde. Parmi les participants figurent le fondateur et PDG de Nvidia, Jensen Huang, le cofondateur de Google DeepMind, Demis Hassabis, le PDG de Scale AI, Francis deSouza, et la directrice financière d'OpenAI, Sarah Friar. Des représentants politiques et institutionnels prendront également part aux débats, notamment le ministre britannique de l'IA, Kanishka Narayan, le conseiller du Vatican, Paolo Benanti, et un représentant officiel de la Chine. La liste comprend aussi le PDG d'IonQ, Niccolò de Masi, ainsi que des délégués d'Anthropic et de Cohere. Les discussions s'appuieront sur un projet de charte préparé en amont du sommet par la Ditchley Foundation afin de structurer les débats privés.
- La Fondation Ditchley prépare un projet de charte pour guider les discussions privées entre les quelque trente participants.
- Le roi Charles III ouvre le sommet à Dumfries House par un discours appelant à des garde-fous technologiques centrés sur l'humain.
- Les dirigeants de la tech et les responsables gouvernementaux mènent des discussions privées sur les normes éthiques et la coordination internationale.
- Les ateliers dans le domaine de l'Ayrshire se concluent sans accords réglementaires contraignants.
Visions concurrentes sur la régulation et le risque
La réunion écossaise se tient alors que les dirigeants de la tech expriment de vifs désaccords sur la vitesse à laquelle l'intelligence artificielle devrait progresser. Le PDG d'Anthropic, Dario Amodei, et le PDG d'OpenAI, Sam Altman, ont soutenu les appels à un ralentissement coordonné du secteur, tandis que le cofondateur d'Anthropic, Jack Clark, a proposé qu'un coupe-circuit obligatoire par un tiers puisse être nécessaire. Une alarme interne a également été rendue publique, alors que l'ancien chercheur d'Anthropic, Jacob Coxon, a démissionné après avoir déclaré que le personnel était effrayé par la rapidité des progrès, suite aux avertissements de deux chercheurs selon lesquels des systèmes non contrôlés pourraient conduire à l'extinction de l'humanité. Par ailleurs, le PDG de Microsoft AI, Mustafa Suleyman, a prévenu qu'un développement non maîtrisé pourrait produire une espèce de silicium concurrente, et le propriétaire de xAI, Elon Musk, a noté un consensus écrasant en faveur d'une régulation. En revanche, le PDG de Nvidia, Jensen Huang, s'est opposé à de nouvelles lois, affirmant que les entreprises devraient conserver le pouvoir discrétionnaire de décider quand commercialiser les nouvelles technologies.
