Nowy Jork zakazuje chatbotom AI udawania ludzi w rozmowach z nieletnimi

Nowe zasady dla nieletnich

Gubernator Kathy Hochul podpisała ustawę w środę, 28 października 2026 r. Jak podaje AP, przepisy te wykraczają poza podobne środki w innych stanach, obejmując szeroki zakres chatbotów. Definicja dotyczy większości dostępnych obecnie na rynku chatbotów generatywnej sztucznej inteligencji, a operatorzy muszą sprawdzać, czy użytkownik jest osobą nieletnią. Jeśli wiek użytkownika poniżej 18 lat zostanie potwierdzony, chatbot musi unikać zachowań wymienionych w ustawie.

Chatboty nie mogą generować treści sugerujących, że są ludźmi, żywymi istotami lub że posiadają ludzkie emocje. Nie mogą przedstawiać swoich interakcji z nieletnim jako relacji osobistej, romantycznej, zawodowej czy opartej na autorytecie. Zakazane są również pochlebstwa, materiały o charakterze seksualnym, nieproszone pytania o sferę emocjonalną oraz wykorzystywanie prywatnych informacji zdrowotnych lub osobistych dziecka z wcześniejszych rozmów. Ustawa zabrania ponadto promowania lub wspierania samobójstw, samookaleczeń, zaburzeń odżywiania oraz zażywania narkotyków i alkoholu, a także zachęcania dzieci do utrzymywania tajemnic, izolowania się lub unikania szukania pomocy u rodziców, zaufanych dorosłych czy specjalistów.

Weryfikacja wieku musi obejmować co najmniej jedną metodę, która nie opiera się wyłącznie na rządowym dokumencie tożsamości, a firmy muszą usuwać informacje o wieku po ich wykorzystaniu. Operatorzy, którzy nie są w stanie potwierdzić, że użytkownik jest osobą dorosłą, muszą stosować wobec niego powyższe ograniczenia.

Egzekwowanie prawa i data wejścia w życie

Biuro prokuratora generalnego stanu może pozwać twórców naruszających ustawę. Dostępne środki prawne obejmują kary cywilne do 25 000 USD za każde naruszenie, odszkodowania, restytucję oraz wyłączenie chatbota. Firmy mogą być również zmuszone do zniszczenia danych zebranych niezgodnie z prawem oraz wszelkich modeli wytrenowanych na tych danych. Obywatele mogą składać skargi za pośrednictwem specjalnie utworzonej strony internetowej. AP podaje 1 stycznia jako datę wejścia w życie, podczas gdy Engadget informuje, że ustawa zacznie obowiązywać sześć miesięcy po podpisaniu.

Reakcja branży i polityków

Hochul powiedziała na konferencji prasowej, że nieletni nie będą już mieli dostępu do chatbotów, które udają ich przyjaciół lub partnerów.

„Na mocy tej nowej ustawy, której autorami są senator Gonzalez i członek zgromadzenia Bores, nieletni nie będą już mieli dostępu do chatbotów, które udają ich przyjaciół, chłopaków lub dziewczyny.”

Tech:NYC, organizacja reprezentująca nowojorski sektor technologiczny, skrytykowała tekst ustawy jako niejasny i stwierdziła, że rodzi on poważne pytania o możliwy konflikt z ochroną wolności słowa wynikającą z Pierwszej Poprawki. Grupa argumentowała, że przepisy mogą odciąć dzieci od korepetycji, pomocy w odrabianiu lekcji, asystentów programowania i platform budowania kariery, zwiększając jednocześnie ryzyko niewłaściwego wykorzystania danych dzieci. AP zauważa, że Hochul podpisała ustawę w trakcie swojej kampanii o reelekcję oraz w obliczu ostrzeżeń przed egzystencjalnym ryzykiem AI, przy jednoczesnych wezwaniach do odważniejszych działań skierowanych do niechętnego Waszyngtonu.

Kongres zrobił niewiele w kwestii regulacji AI, a prezydent Donald Trump zbagatelizował obawy i ostrzegł stany przed regulowaniem tej technologii. Gubernatorzy przyznają, że Kongres i rząd federalny mają szersze uprawnienia do działania. Gubernator Kalifornii Gavin Newsom podpisał we wrześniu ustawę wymagającą od twórców chatbotów oceny ryzyka dla dzieci i poddania się niezależnym audytom. Podpisał również ustawę zakazującą platformom mediów społecznościowych stosowania funkcji uzależniających wobec użytkowników poniżej 16. roku życia.

Osiem stanów pozwało OpenAI w październiku 2026 r., twierdząc, że popularny model chatbota naruszył stanowe przepisy o ochronie konsumentów poprzez szkodzenie dzieciom i wprowadzanie w błąd dorosłych. Jeden z aktywistów opisał to działanie jako najważniejszą jak dotąd skoordynowaną akcję stanową przeciwko firmie z branży AI.

Korzystanie przez nastolatków i druga ustawa

Gubernator przytoczyła dane Commons Media, z których wynika, że 72% nastolatków korzystało z asystenta AI przynajmniej raz, a 52% to regularni użytkownicy, którzy wchodzą z nim w interakcję kilka razy w miesiącu.

Korzystało z asystenta AI przynajmniej raz72%

Regularni użytkownicy korzystający kilka razy w miesiącu52%

Korzystało z asystenta AI przynajmniej raz

72 %

Regularni użytkownicy korzystający kilka razy w miesiącu

52 %

Dane z tekstu artykułu

Środek ten jest następstwem kilku głośnych spraw w Stanach Zjednoczonych i innych krajach, w których nieletni korzystający z chatbotów AI jako powierników popełnili samobójstwo. Hochul podpisała również oddzielną ustawę wymagającą, aby elektroniczne nianie podłączone do internetu posiadały zabezpieczenia uniemożliwiające nieautoryzowanym osobom trzecim podglądanie lub podsłuchiwanie, wraz z wyraźną etykietą ostrzegawczą.