Mieszkanka Florydy aresztowana po tym, jak Anthropic zgłosiło groźby wysłane do sztucznej inteligencji Claude

Filtry bezpieczeństwa wykrywają agresywne wiadomości

Zautomatyzowane systemy bezpieczeństwa u twórcy sztucznej inteligencji, firmy Anthropic, przechwyciły serię gróźb wysłanych do chatbota Claude pod koniec września 2026 r. Według raportu z aresztowania sporządzonego przez biuro szeryfa hrabstwa Lee, 30-letnia mieszkanka Bonita Springs, Carli Michelle Heller, wykorzystała platformę do wysyłania gróźb pod adresem lokalnych funkcjonariuszy organów ścigania. Pierwsza wiadomość, zarejestrowana 26 września o godzinie 5:10, zawierała zapowiedź ataku na biuro szeryfa. Kolejna wiadomość wysłana 27 września o godzinie 1:07 ponowiła groźbę, a użytkowniczka stwierdziła, że pozyskała nową broń palną.

Systemy monitoringu wewnętrznego Anthropic oznaczyły tekst po przekroczeniu progów ryzyka dla treści agresywnych. Oznaczone logi trafiły bezpośrednio do weryfikatorów bezpieczeństwa w celu ręcznej oceny. Po przeanalizowaniu powagi wypowiedzi zespół ds. bezpieczeństwa uznał, że wiadomości stanowią wiarygodną groźbę przemocy i powiadomił organy ścigania na Florydzie.

Aresztowanie i dochodzenie w hrabstwie Lee

Funkcjonariusze z biura szeryfa hrabstwa Lee zidentyfikowali Heller na podstawie danych konta i udali się do jej miejsca zamieszkania w Bonita Springs. 30 września policjanci aresztowali Heller w jej domu bez incydentów. Po aresztowaniu szeryf hrabstwa Lee, Carmine Marceno, przekazał stacji WINK News, że podczas przesłuchania Heller twierdziła, iż używała modelu AI jako osobistego pamiętnika.

Śledczy odnotowali, że Heller zaprzeczyła, jakoby miała rzeczywisty zamiar przeprowadzenia ataku na placówkę szeryfa. Pomimo twierdzeń o wykorzystywaniu systemu jako prywatnego dziennika, prokuratorzy formalnie osadzili ją w lokalnym areszcie, gdzie usłyszała zarzuty popełnienia przestępstwa zgodnie z prawem stanowym.

Zarzuty karne na podstawie statutu Florydy

Prokuratorzy z Florydy postawili Heller zarzuty na podstawie statutu 836.10, który penalizuje pisemne lub elektroniczne groźby zabójstwa, spowodowania uszczerbku na zdrowiu, dokonania masowej strzelaniny lub popełnienia aktu terroryzmu. Przestępstwo to jest klasyfikowane jako felony drugiego stopnia, co wiąże się z potencjalną karą do 15 lat pozbawienia wolności oraz grzywną do 10 000 dolarów.

Postępowanie prawne zbada, czy elektroniczne polecenia przesłane do zautomatyzowanego agenta konwersacyjnego spełniają ustawową definicję przekazania groźby. Prawo Florydy wymaga, aby groźba została wysłana, opublikowana lub przekazana w sposób umożliwiający jej odczytanie przez inną osobę. Ponieważ Heller usłyszała zarzuty, a nie została jeszcze skazana, przesłuchania sądowe ocenią, czy dane wejściowe sprawdzone przez moderatorów zewnętrznej firmy spełniają ten standard prawny.

Polityka prywatności korporacyjnej i ujawnienia w sytuacjach awaryjnych

Sprawa koncentruje się na poufności użytkowników na konsumenckich platformach sztucznej inteligencji. Anthropic określa w swojej dokumentacji prywatności, że pracownicy nie przeglądają konwersacji użytkowników domyślnie, jednak zautomatyzowane klasyfikatory bezpieczeństwa stale skanują dane wejściowe w celu wykrycia szkodliwych zachowań i egzekwowania warunków użytkowania. Choć Anthropic utrzymuje, że wymaga ważnego procesu prawnego, takiego jak nakazy lub wezwania sądowe, przed udostępnieniem rejestrów użytkowników agencjom rządowym, jej warunki zawierają szczególny wyjątek dotyczący aktywnych zagrożeń bezpieczeństwa.

Możemy zrobić wyjątek, jeśli uważamy, że istnieje sytuacja awaryjna, która może skutkować bezpośrednią szkodą fizyczną lub śmiercią, a natychmiastowe ujawnienie może jej zapobiec.

Polityka firmy pozwala pracownikom na pominięcie standardowych wniosków prawnych i bezpośrednie powiadomienie organów ścigania, gdy oceny bezpieczeństwa wskazują na bezpośrednie zagrożenie dla życia ludzkiego.