Frau in Florida festgenommen, nachdem Anthropic gewalttätige Drohungen gegen Claude AI gemeldet hatte
Beamte des Lee County in Florida nahmen die 30-jährige Carli Michelle Heller fest, nachdem Sicherheitsprüfer von Anthropic Nachrichten gemeldet hatten, in denen ein Angriff auf das Sheriff-Büro angedroht wurde.
Sicherheitsfilter melden gewalttätige Nachrichten
Automatisierte Sicherheitsklassifikatoren des KI-Entwicklers Anthropic fingen eine Reihe von Drohungen ab, die Ende September 2026 an dessen Chatbot Claude gesendet wurden. Laut einem Verhaftungsbericht des Lee County Sheriff's Office nutzte die 30-jährige Carli Michelle Heller aus Bonita Springs die Plattform, um Drohungen gegen örtliche Strafverfolgungsbeamte zu übermitteln. Die erste Nachricht, aufgezeichnet am 26. September um 5:10 Uhr, enthielt die Absicht, auf das Sheriff-Büro zu schießen. Eine weitere Nachricht vom 27. September um 1:07 Uhr wiederholte die Drohung, wobei die Nutzerin angab, sie habe eine neue Schusswaffe erworben.
Die internen Überwachungssysteme von Anthropic markierten den Text, nachdem er die Risikoschwellen der Plattform für gewalttätige Inhalte überschritten hatte. Die markierten Protokolle wurden direkt an menschliche Sicherheitsprüfer zur manuellen Bewertung weitergeleitet. Nach Einschätzung der Schwere der Aussagen kam das Sicherheitsteam zu dem Schluss, dass die Nachrichten eine glaubwürdige Gewaltdrohung darstellten, und alarmierte die Strafverfolgungsbehörden in Florida.
- Heller übermittelt die erste Droh-Eingabe gegen das Lee County Sheriff's Office an Claude.
- Heller sendet eine zweite Nachricht an den KI-Chatbot, in der sie behauptet, eine neue Schusswaffe zu besitzen.
- Beamte nehmen Heller in ihrer Wohnung in Bonita Springs ohne Zwischenfälle fest.
- Medienberichte schildern die Festnahme und die Anklage nach der Veröffentlichung der Unterlagen der Strafverfolgungsbehörden.
Festnahme und Ermittlungen im Lee County
Beamte des Lee County Sheriff's Office identifizierten Heller anhand der Kontodaten und begaben sich zu ihrer Wohnung in Bonita Springs. Am 30. September nahmen die Beamten Heller in ihrem Haus ohne Zwischenfälle fest. Nach der Festnahme sagte Lee County Sheriff Carmine Marceno gegenüber WINK News, Heller habe während der Befragung behauptet, sie nutze das KI-Modell als persönliches Tagebuch.
Die Ermittler stellten fest, dass Heller bestritt, tatsächlich einen Angriff auf die Einrichtung des Sheriffs beabsichtigt zu haben. Trotz ihrer Behauptung, das System als privates Tagebuch zu nutzen, nahmen die Staatsanwälte sie förmlich in lokale Haft, um sich nach staatlichem Recht wegen Verbrechenstatbeständen zu verantworten.
Verbrechenstatbestand nach dem Statut von Florida
Die Staatsanwaltschaft von Florida klagte Heller nach Florida Statute 836.10 an, das schriftliche oder elektronische Drohungen, zu töten, Körperverletzung zuzufügen, einen Amoklauf durchzuführen oder eine terroristische Handlung zu begehen, unter Strafe stellt. Die Tat wird nach staatlichem Recht als Verbrechen zweiten Grades eingestuft und kann mit bis zu 15 Jahren Gefängnis und einer Geldstrafe von bis zu 10.000 Dollar geahndet werden.
Das Gerichtsverfahren wird klären, ob elektronische Eingaben an einen automatisierten Konversationsagenten die gesetzliche Definition der Übermittlung einer Drohung erfüllen. Das Recht von Florida verlangt, dass eine Drohung in einer Weise gesendet, veröffentlicht oder übermittelt wird, die von einer anderen Person eingesehen werden kann. Da Heller derzeit angeklagt und nicht verurteilt ist, werden Gerichtsverhandlungen prüfen, ob Eingaben, die von Moderatoren eines Drittunternehmens geprüft wurden, diesen rechtlichen Maßstab erfüllen.
Unternehmensdatenschutz und Notfalloffenlegungen
Der Fall dreht sich um die Vertraulichkeit der Nutzer auf Verbraucher-KI-Plattformen. Anthropic legt in seinen Datenschutzunterlagen fest, dass Mitarbeiter standardmäßig keine Nutzerkonversationen einsehen, doch automatisierte Sicherheitsklassifikatoren scannen Eingaben kontinuierlich, um schädliches Verhalten zu erkennen und die Nutzungsbedingungen durchzusetzen. Während Anthropic betont, dass es ein gültiges rechtliches Verfahren wie Durchsuchungsbeschlüsse oder Vorladungen benötigt, bevor es Nutzerdaten an Regierungsbehörden weitergibt, enthalten seine Bedingungen eine spezifische Ausnahme für akute Sicherheitsbedrohungen.
Wir können eine Ausnahme machen, wenn wir glauben, dass ein Notfall vorliegt, der zu unmittelbarem körperlichem Schaden oder Tod führen könnte, und eine sofortige Offenlegung dies verhindern kann.
Die Unternehmensrichtlinie erlaubt es Mitarbeitern, die üblichen rechtlichen Anfragen zu umgehen und die Strafverfolgungsbehörden direkt zu benachrichtigen, wenn Sicherheitsbewertungen ein unmittelbares Risiko für Menschenleben feststellen.
