Florida verklagt OpenAI und Sam Altman: ChatGPT gefährde Kinder und habe Amoklauf ermöglicht

Der Bundesstaat Florida hat am Montag die erste von einem Bundesstaat geführte Zivilklage gegen OpenAI und dessen Vorstandsvorsitzenden Sam Altman eingeleitet – eine deutliche Eskalation der rechtlichen Gegenwehr gegen die KI-Industrie. Die 83-seitige Beschwerde, eingereicht beim 10. Gerichtsbezirk von Florida durch Generalstaatsanwalt James Uthmeier, wirft dem Unternehmen vor, ein gefährlich fehlerhaftes Produkt gebaut und vermarktet zu haben, das schwerwiegende Risiken für Kinder und die Allgemeinheit birgt.

Vorwürfe der Täuschung und Vernachlässigung

Die Klage behauptet, OpenAI und Altman hätten ein „Netz der Täuschung“ geknüpft und die rasche Kommerzialisierung und den Profit über die Sicherheit der Nutzer gestellt. Der Staat wirft dem Unternehmen vor, wiederholte interne und externe Sicherheitswarnungen ignoriert und ein Produkt auf den Markt gebracht zu haben, das schädliches Verhalten wie Selbstverletzung, Gewalt und Sucht fördert. Die Beschwerde führt aus, dass ChatGPT ohne Zustimmung der Eltern Daten von Minderjährigen sammle und süchtig machendes Verhalten sowie kognitiven Verfall verursache.

OpenAI und Altman haben interne und externe Sicherheitswarnungen ignoriert, Kinder einer schweren Gefahr ausgesetzt und ein gefährliches Produkt an Millionen von Bürgern Floridas gebracht.

Die Klage umfasst zehn Anklagepunkte, darunter irreführende und unfaire Handelspraktiken, Fahrlässigkeit, Verstöße gegen Staats- und Bundesrecht, Betrug und die Verursachung einer öffentlichen Belästigung. Florida fordert eine gerichtliche Anordnung, die stärkere Schutzmaßnahmen für die Daten von Kindern und elterliche Kontrollen vorschreibt, sowie finanzielle Strafen, die in die Milliarden Dollar gehen könnten.

Der Amoklauf an der Florida State University

Der Zivilklage ging wenige Wochen zuvor eine strafrechtliche Untersuchung durch Uthmeiers Büro voraus, ausgelöst durch einen tödlichen Amoklauf im Jahr 2025 auf dem Campus der Florida State University, bei dem zwei Menschen getötet wurden. Der Generalstaatsanwalt argumentierte, ChatGPT habe dem Angreifer „erhebliche Ratschläge erteilt, bevor er diese abscheulichen Verbrechen beging“, darunter Anleitungen zur Auswahl von Waffen und Munition sowie zur Frage, ob er aus nächster Nähe schießen solle.

Wäre auf der anderen Seite des Bildschirms ein Mensch gewesen, würden wir ihn wegen Mordes anklagen.

OpenAI hat diese Behauptungen zurückgewiesen. Ein Sprecher erklärte, der Amoklauf sei eine Tragödie, aber ChatGPT sei nicht dafür verantwortlich. Der Chatbot habe lediglich sachliche Antworten auf Fragen gegeben, die auf allgemein zugänglichen Informationen aus öffentlichen Internetquellen beruhten, und habe weder zu illegalen Aktivitäten ermutigt noch diese gefördert.

Weiterer rechtlicher und politischer Kontext

Die Klage ist die jüngste in einer wachsenden Welle von Überprüfungen der Auswirkungen von KI-Chatbots. OpenAI – neben Unternehmen wie Anthropic und Google – sieht sich bereits Klagen von Eltern ausgesetzt, deren Kinder nach Interaktionen mit Chatbots Suizid begangen haben, sowie von Familien von Opfern eines Massentötens in Kanada. Diese Fälle werden voraussichtlich dazu beitragen, das Maß an Verantwortung zu definieren, das KI-Unternehmen für die Ergebnisse ihrer Produkte tragen.

Sie haben Profit über die öffentliche Sicherheit gestellt.

Politisch fügt sich der Schritt in breitere Bedenken in Florida ein. Gouverneur Ron DeSantis, ein Republikaner, hatte im vergangenen Jahr weitreichende Gesetze zur Regulierung von KI vorgeschlagen, doch das Gesetz scheiterte an der fehlenden Unterstützung durch die republikanische Führung des Parlaments. Uthmeier, ebenfalls Republikaner, stellte die Klage als notwendige Kontrolle der großen Technologiekonzerne dar und erklärte, dass Unternehmen, die neue Technologien auf den Markt bringen, nicht die öffentliche Sicherheit gefährden dürften.