Pour Brad Smith, de Microsoft, le lait et les machines à laver sont plus encadrés que l'IA

Des règles plus strictes pour l'alimentation que pour l'IA

Le président de Microsoft, Brad Smith, a déclaré dans un entretien à la BBC publié lundi 12 octobre qu'une machine à laver est aujourd'hui soumise à davantage de règles de sécurité que l'intelligence artificielle. « Aujourd'hui, votre machine à laver est soumise à plus de règles de sécurité que l'IA. Chaque brique de lait que vous voyez au supermarché est soumise à des règles de sécurité et à des inspections », a-t-il déclaré. Brad Smith a affirmé que le secteur de l'IA « avance plus vite » que les équipes de sécurité, ajoutant que cela « n'est pas bon pour la protection du public. Ce n'est même pas bon pour l'industrie ».

Nous savons faire cela pour d'autres produits. Nous devrions nous appuyer sur ces connaissances et réfléchir à la manière de les appliquer à l'IA.

Les garde-fous proposés

Brad Smith a demandé que les modèles fassent l'objet d'évaluations de sécurité plus nombreuses, avec des évaluateurs indépendants à la fois extérieurs aux entreprises et liés à différents gouvernements. Selon lui, ces évaluateurs détermineraient si un produit est prêt à être mis sur le marché. Il a également proposé un frein d'urgence permettant d'arrêter ou de ralentir les systèmes d'IA qui échappent à tout contrôle, ainsi qu'une obligation légale pour les entreprises de déclarer les incidents et d'informer les personnes touchées lorsqu'un système se comporte de manière inattendue ou préjudiciable.

Il a précisé que le frein d'urgence s'appliquerait à tout système d'IA contrôlant des appareils autonomes ou des infrastructures critiques, selon le rapport en portugais d'Observador. Brad Smith a aussi estimé qu'en cas d'attaques menées par des agents d'IA, il devrait exister une obligation légale d'informer la victime de ce qui s'est passé, citant des cas récents sans nommer d'entreprises.

Le Royaume-Uni et l'AI Security Institute

Brad Smith a déclaré que le Royaume-Uni est le mieux placé pour promouvoir des règles mondiales sur l'IA, principalement grâce à l'AI Security Institute créé sous l'ancien Premier ministre Rishi Sunak. Handelsblatt rapporte que les testeurs de l'institut, qui accèdent par anticipation aux modèles des principaux fournisseurs sur une base volontaire, jouissent d'une bonne réputation.

Un désaccord avec Trump

La position de Brad Smith contredit celle du président américain Donald Trump, qui soutient que le secteur de l'IA doit s'autoréguler pour que les entreprises américaines ne perdent pas la course avec la Chine. Plusieurs dirigeants de l'IA, notamment chez Anthropic, OpenAI et Google DeepMind, ont publiquement soutenu un ralentissement du développement des agents, selon Correio da Manha.

Gates met en garde contre les cyberattaques

Bill Gates, cofondateur de Microsoft, a déclaré à ABC News que les principaux développements de l'année à venir concerneront probablement les cyberattaques. « Le vrai danger en ce moment n'est pas que l'IA échappe à tout contrôle. Nous devons aussi travailler là-dessus, mais l'impact majeur d'un tel scénario est encore à quelques années », a-t-il déclaré, selon un rapport roumain citant l'AFP. Bill Gates a affirmé dimanche 11 octobre qu'il rejetait l'idée que les entreprises d'IA devraient s'autoréguler.