xAI verklagt Minnesota, um erstes US-‚Nudify‘-Verbot zu stoppen – Milliardenstrafen drohen, während sich Grok-CSAM-Klagen häufen

Das betroffene Gesetz

Minnesotas HF 1606, das Gouverneur Tim Walz Anfang dieses Jahres unterzeichnete, macht es illegal, wenn eine Website oder App Nutzern erlaubt, realistische Nackt- oder sexuell eindeutige Bilder einer echten, identifizierbaren Person ohne deren Einwilligung zu erstellen. Jeder Verstoß kann mit einer Zivilstrafe von bis zu 500.000 Dollar geahndet werden; das Geld fließt in Hilfsdienste für Sexualstraftäter. Die Staatssenatorin Erin Maye Quade brachte den Gesetzesentwurf ein, nachdem ein Mann Fotos aus sozialen Medien verwendet hatte, um sexuelle Bilder von mehr als 80 Frauen zu erstellen, die er kannte. Das Verbot, das der Staat als Nudification-Gesetz bezeichnet, tritt am 1. August in Kraft. Unternehmen, die dagegen verstoßen, droht eine atemberaubende Haftung: Wie xAI in seiner Beschwerde anmerkt, würden 100.000 verbotene Bilder zu „atemberaubenden 50 Milliarden Dollar“ an Geldstrafen führen.

xAIs verfassungsrechtliche Anfechtung

Am Montag, dem 27. Juli, verklagte Elon Musks xAI – inzwischen Teil von SpaceX – den Generalstaatsanwalt von Minnesota, Keith Ellison, vor einem Bundesgericht und beantragte, das Gesetz für verfassungswidrig zu erklären und seine Durchsetzung zu blockieren. Das Unternehmen bestreitet nicht das Interesse des Staates, die Verbreitung nicht einvernehmlicher intimer Deepfakes zu stoppen. Stattdessen argumentiert es, dass das Gesetz ein „zu weit gefasstes, inhaltsbezogenes Verbot der Meinungsfreiheit und der Werkzeuge des visuellen Ausdrucks in einem unbeholfenen Versuch sei, die ‚Nudification‘ zu verbieten.“ Die Beschwerde warnt davor, dass das Gesetz geschützte Rede erfasse, darunter satirische Bilder, restaurierte Familienfotos und sogar Darstellungen von Männern ohne Hemd oder Menschen in Badekleidung, da seine Definition von „intimem Körperteil“ „weit über das hinausgeht, was eine normale Person als ‚Nudification‘ betrachten würde.“

Die atemberaubende Haftungsdrohung

xAIs Hauptsorge ist finanzieller Natur. Nach dem Gesetz zieht jede verbotene Erstellung eine separate Strafe von 500.000 Dollar nach sich. Das Unternehmen berechnet, dass ein Dienst, dessen Nutzer nur zehn anstößige Bilder anforderten, mit 5 Millionen Dollar an Zivilstrafen rechnen müsste; tausend Bilder würden 500 Millionen Dollar bedeuten; und 100.000 Bilder könnten 50 Milliarden Dollar ergeben. Das Gesetz verlangt nicht, dass Bilder verbreitet werden: Bereits die Erstellung macht den Entwickler haftbar, selbst wenn nur der Nutzer das Ergebnis gesehen hat.

10 Bilder5.000.000

1.000 Bilder500.000.000

100.000 Bilder50.000.000.000

10 Bilder

5000000 $

1.000 Bilder

500000000 $

100.000 Bilder

50000000000 $

Daten aus dem Artikeltext

Ein Unternehmen unter rechtlichem Beschuss

Die Klage kommt zu einem Zeitpunkt, an dem xAI selbst mit einer Rechenschaftskrise konfrontiert ist. Eine im März von jungen Mädchen aus Tennessee eingereichte Sammelklage wirft dem Unternehmen vor, dass Menschen Grok genutzt hätten, um echte Fotos in Kindesmissbrauchsmaterial zu verwandeln. Letzte Woche verklagte ein als Jane Doe bezeichnetes 10-jähriges Mädchen das Unternehmen und behauptete, ein Fotograf aus Arkansas habe Grok verwendet, um Hunderte sexualisierter Bilder von ihr und Tausende weiterer von anderen Kindern zu erstellen. Der Fotograf wurde festgenommen, nachdem xAI die Strafverfolgungsbehörden informiert hatte. xAI erklärt, es „verbiete strengstens“ nicht einvernehmliche sexuelle Bilder, und hat seine eigenen Nutzer verklagt, die seine Sperren umgehen, darunter kürzlich einen Fall gegen einen Nutzer aus South Carolina. Aber Aufsichtsbehörden in Kalifornien, Großbritannien, der EU und Irland haben alle Ermittlungen eingeleitet, und das Unternehmen räumt ein, dass es „die Bildbearbeitungsfunktionen von Grok Imagine einschränken müsste“, sobald das Gesetz von Minnesota in Kraft tritt.

Trotzige Reaktion von Minnesotas Beamten

Gouverneur Walz reagierte unverblümt auf die Klage in den sozialen Medien.

„Wir sehen uns vor Gericht, Widerling.“

Die Befürworter des Gesetzes sagen, es lasse die Schutzbestimmungen des Bundesgesetzes Section 230 intakt und befreie Werkzeuge, die echtes technisches Geschick erfordern, sodass einfache Nudify-Apps das Ziel bleiben. Da das Gesetz am Samstag in Kraft treten soll, stellt der Rechtsstreit xAIs Theorie der Meinungsfreiheit gegen einen Staat, der entschlossen ist, KI-Entwickler für Schäden haftbar zu machen, die angeblich auf seiner Plattform weit verbreitet sind.