Une femme arrêtée en Floride après qu'Anthropic a signalé des menaces violentes envoyées à Claude

Les filtres de sécurité signalent des messages violents

Les classificateurs de sécurité automatisés du développeur d'intelligence artificielle Anthropic ont intercepté une série de messages menaçants adressés à son chatbot Claude fin septembre 2026. Selon un rapport d'arrestation du bureau du shérif du comté de Lee, Carli Michelle Heller, 30 ans, résidant à Bonita Springs, a utilisé la plateforme pour soumettre des menaces visant des membres des forces de l'ordre locales. Le premier message, enregistré le 26 septembre à 5 h 10, faisait état de l'intention de tirer sur le bureau du shérif. Un message ultérieur envoyé le 27 septembre à 1 h 07 a réitéré la menace, l'utilisatrice déclarant avoir acquis une nouvelle arme à feu.

Les systèmes de surveillance internes d'Anthropic ont signalé le texte après qu'il a franchi les seuils de risque de la plateforme en matière de contenu violent. Les journaux signalés ont été transmis directement à des examinateurs humains chargés de la sécurité pour une évaluation manuelle. Après avoir évalué la gravité des déclarations, l'équipe de sécurité a conclu que les messages représentaient une menace crédible de violence et a alerté les autorités de Floride.

Arrestation et enquête dans le comté de Lee

Les adjoints du bureau du shérif du comté de Lee ont identifié Heller à partir des données du compte et se sont rendus à son domicile de Bonita Springs. Le 30 septembre, les agents ont arrêté Heller à son domicile sans incident. Après l'arrestation, le shérif du comté de Lee, Carmine Marceno, a déclaré à WINK News que Heller avait affirmé lors de son interrogatoire qu'elle utilisait le modèle d'IA comme journal personnel.

Les enquêteurs ont noté que Heller a nié avoir eu l'intention réelle de mener une attaque contre les locaux du shérif. Malgré ses déclarations selon lesquelles elle utilisait le système comme journal privé, les procureurs l'ont officiellement placée en détention locale pour répondre de chefs d'accusation criminels en vertu de la loi de l'État.

Des chefs d'accusation criminels en vertu de la loi de Floride

Les procureurs de Floride ont inculpé Heller en vertu de la loi de Floride 836.10, qui sanctionne les menaces écrites ou électroniques de tuer, de causer des lésions corporelles, de commettre une fusillade de masse ou de commettre un acte de terrorisme. L'infraction est classée comme crime de deuxième degré en vertu de la loi de l'État, passible d'une peine pouvant aller jusqu'à 15 ans de prison et d'une amende pouvant atteindre 10 000 dollars.

La procédure judiciaire examinera si les requêtes électroniques soumises à un agent conversationnel automatisé satisfont à la définition légale de la transmission d'une menace. La loi de Floride exige qu'une menace soit envoyée, publiée ou transmise d'une manière susceptible d'être vue par une autre personne. Comme Heller est actuellement inculpée et non condamnée, les audiences judiciaires évalueront si les saisies examinées par les modérateurs d'une entreprise tierce répondent à cette norme juridique.

Politiques de confidentialité des entreprises et divulgations d'urgence

L'affaire porte sur la confidentialité des utilisateurs sur les plateformes d'intelligence artificielle grand public. Anthropic précise dans sa documentation sur la confidentialité que son personnel ne consulte pas les conversations des utilisateurs par défaut, mais que des classificateurs de sécurité automatisés analysent en continu les saisies pour détecter les comportements nuisibles et faire respecter les conditions d'utilisation. Si Anthropic affirme exiger une procédure légale valide, telle qu'un mandat ou une assignation, avant de fournir des données d'utilisateurs aux agences gouvernementales, ses conditions prévoient une exception spécifique pour les menaces de sécurité actives.

Nous pouvons faire une exception si nous estimons qu'il existe une urgence susceptible d'entraîner des dommages physiques directs ou la mort, et qu'une divulgation immédiate peut l'empêcher.

La politique de l'entreprise autorise son personnel à contourner les demandes légales standard et à informer directement les forces de l'ordre lorsque les évaluations de sécurité déterminent un risque imminent pour la vie humaine.