xAI verklagt Minnesota, um erstes US-‚Nudify‘-Verbot zu stoppen – Milliardenstrafen drohen, während sich Grok-CSAM-Klagen häufen
Elon Musks xAI hat am Montag eine Bundesklage eingereicht, um Minnesotas erstes Verbot von Nudification-Tools zu kippen. Das Unternehmen argumentiert, das Gesetz unterdrücke die Meinungsfreiheit und drohe mit ruinösen Geldstrafen, während es selbst mit mehreren Klagen wegen von Grok erstellten Kindesmissbrauchsmaterials konfrontiert ist.
Das betroffene Gesetz
Minnesotas HF 1606, das Gouverneur Tim Walz Anfang dieses Jahres unterzeichnete, macht es illegal, wenn eine Website oder App Nutzern erlaubt, realistische Nackt- oder sexuell eindeutige Bilder einer echten, identifizierbaren Person ohne deren Einwilligung zu erstellen. Jeder Verstoß kann mit einer Zivilstrafe von bis zu 500.000 Dollar geahndet werden; das Geld fließt in Hilfsdienste für Sexualstraftäter. Die Staatssenatorin Erin Maye Quade brachte den Gesetzesentwurf ein, nachdem ein Mann Fotos aus sozialen Medien verwendet hatte, um sexuelle Bilder von mehr als 80 Frauen zu erstellen, die er kannte. Das Verbot, das der Staat als Nudification-Gesetz bezeichnet, tritt am 1. August in Kraft. Unternehmen, die dagegen verstoßen, droht eine atemberaubende Haftung: Wie xAI in seiner Beschwerde anmerkt, würden 100.000 verbotene Bilder zu „atemberaubenden 50 Milliarden Dollar“ an Geldstrafen führen.
- Sammelklage von Mädchen aus Tennessee wegen Grok-CSAM eingereicht.
- xAI verklagt Nutzer aus South Carolina wegen Umgehung der Schutzmaßnahmen.
- Jane-Doe-Klage in Arkansas wegen von einem Fotografen mit Grok erstellter Bilder.
- xAI verklagt Minnesotas Generalstaatsanwalt Keith Ellison, um HF 1606 zu blockieren.
- Minnesotas Nudification-Verbot tritt in Kraft.
xAIs verfassungsrechtliche Anfechtung
Am Montag, dem 27. Juli, verklagte Elon Musks xAI – inzwischen Teil von SpaceX – den Generalstaatsanwalt von Minnesota, Keith Ellison, vor einem Bundesgericht und beantragte, das Gesetz für verfassungswidrig zu erklären und seine Durchsetzung zu blockieren. Das Unternehmen bestreitet nicht das Interesse des Staates, die Verbreitung nicht einvernehmlicher intimer Deepfakes zu stoppen. Stattdessen argumentiert es, dass das Gesetz ein „zu weit gefasstes, inhaltsbezogenes Verbot der Meinungsfreiheit und der Werkzeuge des visuellen Ausdrucks in einem unbeholfenen Versuch sei, die ‚Nudification‘ zu verbieten.“ Die Beschwerde warnt davor, dass das Gesetz geschützte Rede erfasse, darunter satirische Bilder, restaurierte Familienfotos und sogar Darstellungen von Männern ohne Hemd oder Menschen in Badekleidung, da seine Definition von „intimem Körperteil“ „weit über das hinausgeht, was eine normale Person als ‚Nudification‘ betrachten würde.“
Die atemberaubende Haftungsdrohung
xAIs Hauptsorge ist finanzieller Natur. Nach dem Gesetz zieht jede verbotene Erstellung eine separate Strafe von 500.000 Dollar nach sich. Das Unternehmen berechnet, dass ein Dienst, dessen Nutzer nur zehn anstößige Bilder anforderten, mit 5 Millionen Dollar an Zivilstrafen rechnen müsste; tausend Bilder würden 500 Millionen Dollar bedeuten; und 100.000 Bilder könnten 50 Milliarden Dollar ergeben. Das Gesetz verlangt nicht, dass Bilder verbreitet werden: Bereits die Erstellung macht den Entwickler haftbar, selbst wenn nur der Nutzer das Ergebnis gesehen hat.
- 10 Bilder
- 5000000 $
- 1.000 Bilder
- 500000000 $
- 100.000 Bilder
- 50000000000 $
Ein Unternehmen unter rechtlichem Beschuss
Die Klage kommt zu einem Zeitpunkt, an dem xAI selbst mit einer Rechenschaftskrise konfrontiert ist. Eine im März von jungen Mädchen aus Tennessee eingereichte Sammelklage wirft dem Unternehmen vor, dass Menschen Grok genutzt hätten, um echte Fotos in Kindesmissbrauchsmaterial zu verwandeln. Letzte Woche verklagte ein als Jane Doe bezeichnetes 10-jähriges Mädchen das Unternehmen und behauptete, ein Fotograf aus Arkansas habe Grok verwendet, um Hunderte sexualisierter Bilder von ihr und Tausende weiterer von anderen Kindern zu erstellen. Der Fotograf wurde festgenommen, nachdem xAI die Strafverfolgungsbehörden informiert hatte. xAI erklärt, es „verbiete strengstens“ nicht einvernehmliche sexuelle Bilder, und hat seine eigenen Nutzer verklagt, die seine Sperren umgehen, darunter kürzlich einen Fall gegen einen Nutzer aus South Carolina. Aber Aufsichtsbehörden in Kalifornien, Großbritannien, der EU und Irland haben alle Ermittlungen eingeleitet, und das Unternehmen räumt ein, dass es „die Bildbearbeitungsfunktionen von Grok Imagine einschränken müsste“, sobald das Gesetz von Minnesota in Kraft tritt.
Trotzige Reaktion von Minnesotas Beamten
Gouverneur Walz reagierte unverblümt auf die Klage in den sozialen Medien.
Wir sehen uns vor Gericht, Widerling.
Die Befürworter des Gesetzes sagen, es lasse die Schutzbestimmungen des Bundesgesetzes Section 230 intakt und befreie Werkzeuge, die echtes technisches Geschick erfordern, sodass einfache Nudify-Apps das Ziel bleiben. Da das Gesetz am Samstag in Kraft treten soll, stellt der Rechtsstreit xAIs Theorie der Meinungsfreiheit gegen einen Staat, der entschlossen ist, KI-Entwickler für Schäden haftbar zu machen, die angeblich auf seiner Plattform weit verbreitet sind.
