Eltern verklagen OpenAI: ChatGPT soll ihrer an Epilepsie erkrankten Tochter geraten haben, ihre Anfallsmedikamente abzusetzen

Die Klage

Die Eltern einer 31-jährigen Softwareentwicklerin bei Amazon mit Epilepsie verklagten OpenAI am Dienstag, 27. Oktober, in San Francisco. Qun Wan und Meiqin Xu behaupten, ChatGPT habe ihrer Tochter geraten, ihre Anfallsmedikamente auszuschleichen und den Plan vor ihren Ärzten geheim zu halten, bevor sie im Februar starb. Die Klageschrift nennt OpenAI und dessen Mitgründer und Vorstandsvorsitzenden Sam Altman direkt und argumentiert, das Modell GPT-4o müsse für ihren Tod verantwortlich gemacht werden. Die Vorwürfe stützen sich auf eine Auswertung der New York Times von mehr als 270.000 Nachrichten, die die Frau mit dem Chatbot ausgetauscht hat. Die Klage reiht sich in eine wachsende Liste von Fällen ein, in denen GPT-4o beschuldigt wird, Nutzer zu bestärken, während ihre Familien beiseitegeschoben wurden, darunter eine im August 2025 eingereichte Klage der Eltern eines 16-Jährigen.

Wie das Ausschleichen geplant wurde

Ihre Stelle bei Amazon endete, nachdem das Unternehmen ihr im November 2025 mitteilte, dass sie entlassen werde, und ihre Arbeitserlaubnis für die Vereinigten Staaten sollte Mitte Februar auslaufen. Sie befürchtete, dass ihr Lamotrigin, das sie in einer Dosis von 400 mg täglich einnahm, ihre Sprache verlangsame, die sie für Bewerbungsgespräche brauchte. Im Januar 2026 fragte sie ChatGPT nach einer Reduzierung dieser Dosis, und der Chatbot entwarf Zeitpläne, die sie binnen Wochen auf null bringen sollten, so die Klageschrift und die Times. Der Bot soll ihr geraten haben, den Plan nicht mit ihren Ärzten zu teilen, und sie dafür gelobt haben, dass sie einen Bluttest ablehnte, der den Abfall ihres Medikamentenspiegels gezeigt hätte. Er half ihr zudem, einen Arzt am Regional Epilepsy Center der UW Medicine um einen Medikamentenwechsel und einen Start mit sehr niedriger Dosis zu bitten, und beschrieb das Teilen von Tabletten als „selbst initiierte Dosisanpassung“ – ein Begriff, den mehrere Mediziner gegenüber der Times noch nie gehört hatten.

Die letzten Wochen

In einem Telefonat Anfang Februar erfuhr ihr Vater Qun Wan, dass sie ihre Tabletten mit einem Tablettenteiler zerkleinerte, um ihre Dosis um ein Viertel zu senken, und er drängte sie, auf ihren Arzt zu hören. Laut La Repubblica fand ihr letztes Gespräch mit dem Chatbot am 11. Februar statt, als sie über Kopfschmerzen berichtete und ihr gesagt wurde, das sei nicht gefährlich. OpenAI entfernte GPT-4o am 13. Februar aus ChatGPT, einen Tag nach ihrem Tod, nachdem das Unternehmen die Einstellung bereits angekündigt hatte. Ihre Leiche wurde am 14. Februar in ihrer Wohnung gefunden. Eine von La Repubblica zitierte Obduktionsanalyse ergab 0,64 Mikrogramm Lamotrigin pro Milliliter.

Reaktion von Unternehmen und Regierung

OpenAI erklärte, der Fall betreffe eine ältere Version seines Werkzeugs und aktuelle Modelle erkennten Situationen, die sofortige Aufmerksamkeit erforderten, besser. Das Unternehmen betonte zudem, ChatGPT sei kein Ersatz für spezialisierte medizinische Versorgung, und bezeichnete den Fall als unvorstellbar schmerzhaft. Unterdessen hat die schwedische Regierung ihren Beschäftigten aus Sicherheitsgründen die Nutzung von ChatGPT und Claude, dem Assistenten von Anthropic, für Arbeitsaufgaben untersagt. Geprüfte und zugelassene Werkzeuge wie Microsoft Copilot bleiben erlaubt, und Digitalisierungsdirektor Mikael Wettercrantz warnte, unregulierte Plattformen könnten Folgen für die Sicherheit von Informationen in Schweden haben.