xAI poursuit le Minnesota pour faire cesser la première interdiction américaine de la « nudification », mettant en garde contre des milliards d'amendes alors que les poursuites pour CSAM liés à Grok s'accumulent
Elon Musk's xAI a déposé lundi une plainte fédérale pour faire annuler l'interdiction, une première aux États-Unis, des outils de nudification par le Minnesota, arguant qu'elle entrave la liberté d'expression et menace des amendes ruineuses alors même que l'entreprise fait face à de multiples poursuites concernant des contenus d'abus sexuels sur mineurs générés par Grok.
La loi en jeu
La loi HF 1606 du Minnesota, signée par le gouverneur Tim Walz plus tôt cette année, rend illégal pour tout site web ou application de permettre aux utilisateurs de générer des images nues ou sexuellement explicites réalistes d'une personne réelle et identifiable sans consentement. Chaque violation peut entraîner une amende civile pouvant aller jusqu'à 500 000 $, l'argent servant à financer des services pour les victimes d'agressions sexuelles. La sénatrice d'État Erin Maye Quade a présenté le projet de loi après qu'un homme a utilisé des photos de réseaux sociaux pour créer des images sexuelles de plus de 80 femmes qu'il connaissait. L'interdiction, que l'État appelle une loi sur la nudification, entre en vigueur le 1er août. Les entreprises qui la violent s'exposent à des risques colossaux : comme le souligne la plainte de xAI, 100 000 images interdites déclencheraient « la somme faramineuse de 50 milliards de dollars » d'amendes.
- Recours collectif proposé par des filles du Tennessee concernant des CSAM générés par Grok.
- xAI poursuit un utilisateur de Caroline du Sud pour contournement des mesures de protection.
- Poursuite de Jane Doe déposée en Arkansas concernant des images générées par Grok par un photographe.
- xAI poursuit le procureur général du Minnesota, Keith Ellison, pour bloquer la loi HF 1606.
- L'interdiction de la nudification entre en vigueur au Minnesota.
La contestation constitutionnelle de xAI
Lundi 27 juillet, xAI d'Elon Musk, désormais intégrée à SpaceX, a poursuivi le procureur général du Minnesota, Keith Ellison, devant un tribunal fédéral, demandant à un juge de déclarer la loi inconstitutionnelle et d'en bloquer l'application. L'entreprise ne conteste pas l'intérêt de l'État à mettre fin à la propagation des deepfakes intimes non consensuels. Elle soutient plutôt que la loi est une « interdiction trop large et fondée sur le contenu de la liberté d'expression et des outils d'expression visuelle, dans une tentative maladroite d'interdire la 'nudification' ». La plainte avertit que la loi englobe des discours protégés, notamment des images satiriques, des photos de famille restaurées, et même des représentations d'hommes torse nu ou de personnes en maillot de bain, car sa définition de « partie intime » va « bien au-delà de ce qu'une personne ordinaire considérerait comme de la 'nudification' ».
La menace financière colossale
La crainte centrale de xAI est financière. En vertu de la loi, chaque création interdite entraîne une amende distincte de 500 000 $. L'entreprise calcule qu'un service dont les utilisateurs auraient demandé seulement dix images litigieuses ferait face à 5 millions de dollars d'amendes civiles ; mille images signifieraient 500 millions de dollars ; et 100 000 images pourraient produire 50 milliards de dollars. La loi n'exige pas que les images soient diffusées : le simple fait de les générer expose le développeur, même si seul l'utilisateur a vu le résultat.
- 10 images
- 5000000 $
- 1 000 images
- 500000000 $
- 100 000 images
- 50000000000 $
Une entreprise sous le feu des poursuites
La plainte arrive alors que xAI fait face à sa propre crise de responsabilité. Un recours collectif proposé en mars par de jeunes filles du Tennessee allègue que des personnes ont utilisé Grok pour transformer des photos réelles en contenus d'abus sexuels sur mineurs. La semaine dernière, une fillette de 10 ans identifiée comme Jane Doe a poursuivi l'entreprise, affirmant qu'un photographe de l'Arkansas avait utilisé Grok pour créer des centaines d'images sexualisées d'elle et des milliers d'autres d'enfants. Le photographe a été arrêté après que xAI a alerté les forces de l'ordre. xAI déclare « interdire strictement » les images sexuelles non consensuelles et a poursuivi ses propres utilisateurs pour avoir contourné ses blocages, notamment dans une affaire récente contre un utilisateur de Caroline du Sud. Mais les régulateurs en Californie, au Royaume-Uni, dans l'UE et en Irlande ont tous ouvert des enquêtes, et l'entreprise reconnaît qu'elle devrait « restreindre les fonctions d'édition d'images de Grok Imagine » une fois la loi du Minnesota en vigueur.
Réponse provocatrice des responsables du Minnesota
Le gouverneur Walz a réagi avec brusquerie à la plainte sur les réseaux sociaux.
On se voit au tribunal, espèce de salaud.
Les partisans de la loi affirment qu'elle laisse intactes les protections fédérales de l'article 230 et exempte les outils qui exigent une réelle compétence technique, de sorte que les simples applications de nudification restent la cible. Alors que la loi doit entrer en vigueur samedi, le litige oppose la théorie de la liberté d'expression de xAI à un État déterminé à tenir les développeurs d'IA responsables des préjudices longtemps allégués comme proliférant sur sa plateforme.
