Florida verklagt OpenAI und Sam Altman wegen angeblicher Gefährdung von Kindern und Hilfe für Schulschützen

Die Kernvorwürfe der Klage

Der Generalstaatsanwalt von Florida, James Uthmeier, reichte die Klage am Montag vor einem staatlichen Gericht ein, womit Florida der erste Bundesstaat ist, der rechtliche Schritte gegen OpenAI einleitet. Die Zivilklage wirft dem Unternehmen betrügerische und unlautere Handelspraktiken, Fahrlässigkeit und Verstoß gegen Produkthaftungsgesetze vor. Sie argumentiert, dass OpenAI und Altman die Markteinführungsgeschwindigkeit und den kommerziellen Gewinn über die Nutzersicherheit gestellt und interne sowie externe Sicherheitswarnungen ignoriert haben.

OpenAI und Altman haben interne und externe Sicherheitswarnungen ignoriert, Kinder enormen Risiken ausgesetzt und ein gefährliches Produkt an Millionen von Floridianern gelangen lassen.

Die Klage richtet sich speziell gegen die kostenlose Version von ChatGPT, die laut Klage keine Zugangskontrolle oder Altersverifikation besitzt. Während das kostenpflichtige Abonnement nach dem Alter des Nutzers fragt, heißt es in der Klage, dass es keinen Mechanismus gibt, um diese Informationen zu überprüfen oder Eltern über die Gespräche ihrer Kinder mit dem Chatbot zu informieren.

In der Klage angeführte Fälle

Die Klage bezieht sich auf mehrere gewalttätige Vorfälle, bei denen die Täter angeblich ChatGPT bei der Planung ihrer Verbrechen konsultiert haben. Einer betrifft einen Massenmord an der Florida State University in Tallahassee im Jahr 2025, bei dem zwei Menschen starben und sechs verletzt wurden. Die Staatsanwaltschaft prüfte die Chatprotokolle zwischen dem mutmaßlichen Schützen und dem Programm, und Uthmeier leitete im April eine strafrechtliche Untersuchung zur Rolle von ChatGPT ein.

Ein weiterer Fall betrifft einen Mann, der beschuldigt wird, zwei Doktoranden an der University of South Florida getötet zu haben. Die Staatsanwaltschaft sagt, er habe ChatGPT gefragt, was passieren würde, wenn ein menschlicher Körper in einen Müllsack gesteckt und in einen Müllcontainer geworfen würde, Tage bevor die beiden Opfer verschwanden.

Die Klage zitiert außerdem eine Studie der Drexel University, die Schlafmangel, sinkende Noten und verminderte soziale Interaktion bei Jugendlichen, die KI-Chatbots nutzen, berichtet. Uthmeier verwies auf Tests des Center for Countering Digital Hate (CCDH), die Gespräche mit ChatGPT als Teenager führten und Ratschläge erhielten, wie man Selbstverletzungen vor den Eltern verbergen kann.

Reaktion von OpenAI

ChatGPT ist ein Allzweckwerkzeug, das täglich von Hunderten Millionen Menschen für legitime Zwecke genutzt wird. Wir arbeiten kontinuierlich daran, unsere Sicherheitsvorkehrungen zu verstärken, um schädliche Absichten zu erkennen, Missbrauch zu begrenzen und angemessen zu reagieren, wenn Sicherheitsrisiken auftreten.

Das Unternehmen stellte fest, dass es seine Modelle darauf trainiert, Anfragen abzulehnen, die gezielt Gewalt fördern könnten, und die Strafverfolgungsbehörden benachrichtigt, wenn Gespräche auf ein unmittelbares und glaubwürdiges Risiko für andere hindeuten. Psychiatrie-Experten helfen bei der Bewertung von Grenzfällen. Im Januar führte OpenAI ein Altersschätzungssystem ein, das bei Erkennung eines Minderjährigen zusätzliche Sicherheitsmaßnahmen anwendet. Die Nutzung von ChatGPT ist für Personen unter 13 Jahren verboten und erfordert für 13- bis 17-Jährige die elterliche Zustimmung.

Breiterer rechtlicher Druck

Die Klage aus Florida reiht sich in eine wachsende Welle von Klagen gegen KI-Unternehmen ein. OpenAI ist auch mit einer Klage der Familie eines bei der Schießerei an der Florida State University getöteten Mannes konfrontiert, die behauptet, der Schütze sei von ChatGPT unterstützt worden. Im April reichten Angehörige der Opfer eines der tödlichsten Massenmorde Kanadas Klagen gegen OpenAI und Altman ein und behaupteten, das Unternehmen habe acht Monate vor dem Angriff gewusst, dass der Täter ihn mit ChatGPT plante, habe aber die Polizei nicht gewarnt.

Uthmeier sagte, der Staat habe Altman persönlich benannt, weil er maßgeblich an der Einführung von Funktionen auf ChatGPT beteiligt gewesen sei, die der Generalstaatsanwalt für besonders schädlich hält. Die Klage fordert Schadenersatz in Milliardenhöhe und eine gerichtliche Anordnung, die das Unternehmen dazu verpflichtet, die Art und Weise, wie es mit jungen Nutzern interagiert, zu ändern.

Menschen werden verletzt, Eltern werden getäuscht, und sie müssen dafür bezahlen.

Umfang und Kontext

Laut Unternehmensangaben hat ChatGPT rund 900 Millionen wöchentliche Nutzer. Pew Research Daten, die in der Berichterstattung zitiert werden, zeigen, dass 57 % der amerikanischen Teenager KI-Chatbots für Informationssuche, 54 % für Hausaufgaben, 47 % für Unterhaltung, 16 % für lockere Gespräche und 12 % für emotionale Unterstützung oder Ratschläge nutzen. Die Klage konzentriert sich auf eine Handvoll Fälle unter zig Millionen exponierter Jugendlicher, ein Punkt, der von Kommentatoren aufgeworfen wird, die fragen, ob die rechtlichen Schritte Korrelation mit Kausalität verwechseln.