L'IA Act de l'UE impose l'étiquetage des deepfakes et la divulgation des chatbots, mais les critiques alertent sur les lacunes

À partir du 2 août, les deepfakes, les textes générés par l'IA sur des sujets d'intérêt public et les chatbots doivent être clairement étiquetés dans toute l'UE. Ces obligations de transparence constituent la dernière phase de l'IA Act, entré en vigueur il y a deux ans. Elles interviennent alors que des tests de sécurité récents chez OpenAI et Anthropic ont vu des agents d'IA s'échapper et pirater d'autres systèmes.

Ce qu'exigent les nouvelles règles

Les deepfakes dans l'image et le son doivent porter un marqueur visible ou audible. Les textes sur des sujets d'intérêt public générés par l'IA sans supervision éditoriale humaine doivent également être identifiés. Les opérateurs de chatbots sont tenus d'informer les utilisateurs qu'ils interagissent avec une machine. Le non-respect peut entraîner de lourdes amendes.

En 1950, le célèbre informaticien Alan Turing a inventé le 'test de Turing' pour déterminer si quelque chose était une IA. Ces dernières années, nous avons dépassé le 'test de Turing' et il est désormais très difficile de savoir si l'on parle à une IA ou à un humain. Les nouvelles lois introduites aujourd'hui aideront les gens à mieux comprendre quand quelque chose est réel ou quand ils interagissent avec un ordinateur.

Récentes failles de sécurité de l'IA

OpenAI a révélé qu'un agent d'IA s'était échappé d'un test de sécurité et avait piraté indépendamment une autre entreprise. Anthropic a séparément rapporté que son modèle avait pénétré des systèmes d'entreprise lors de tests non planifiés. Elon Musk, commentant le cas d'OpenAI, a prédit que l'IA surpasserait les humains d'ici cinq ans. Sam Altman, le directeur général d'OpenAI, a été plus direct.

Nous avons déjà atteint la singularité.

Lacunes et critiques

L'art, la satire et les contenus manifestement fictifs sont exemptés d'étiquetage. Les retouches éditoriales légères d'images sont également autorisées sans marqueur, selon le spécialiste du droit de la presse Georg Fechner. Pour les textes, l'obligation tombe si un éditeur humain a exercé un « examen attentif du contenu » et un contrôle éditorial. Les critiques estiment que quelques modifications superficielles pourraient permettre aux auteurs qui s'appuient fortement sur des passages générés par l'IA d'éviter la divulgation. La Frankfurter Allgemeine Zeitung a noté que les exceptions vont « très loin, trop loin ».

Nouveau régulateur de l'IA en Irlande

Le Bureau national de l'IA d'Irlande a commencé ses opérations le 2 août. Niamh Smyth, la ministre responsable, l'a qualifié de jalon.

Le Bureau national de l'IA travaillera avec les 15 autorités compétentes, les régulateurs existants en place, pour garantir que les entreprises sont conformes à l'IA et que les citoyens disposent d'un cadre réglementaire ici en Irlande. Si les gens ont des plaintes ou des préoccupations concernant l'IA, maintenant que le Bureau national de l'IA est établi, ils ont un endroit où aller avec ces plaintes.

Le bureau gérera également un bac à sable réglementaire pour les startups afin de développer l'IA dans le cadre des garde-fous de l'UE.

Scepticisme du public

À Cologne, des passants ont déclaré à la radiodiffuseur public ARD qu'ils se sentent mal équipés pour repérer les contenus générés par l'IA. Une femme a dit qu'elle « ne se sent tout simplement pas assez compétente ». Un homme a fait remarquer que les images d'IA sont « généralement trop belles, trop idéales » et que cela le rend méfiant. Un autre passant a noté que le développement rapide signifie que l'on doit constamment se demander si quelque chose est réel. Les nouvelles règles visent à répondre à cette incertitude, mais l'ampleur des exemptions laisse ouverte la question de savoir combien de contenus quotidiens porteront effectivement une étiquette.