New York verbietet KI-Chatbots, sich gegenüber Nutzern unter 18 als Mensch auszugeben

Die neuen Regeln für Minderjährige

Gouverneurin Kathy Hochul unterzeichnete das Gesetz am Mittwoch, 28. Oktober 2026. Die AP berichtet, es reiche weiter als vergleichbare Maßnahmen anderer Bundesstaaten, die bislang keine so breite Palette von Chatbots erfasst hätten. Die Definition trifft auf die meisten derzeit marktüblichen generativen KI-Chatbots zu, und Betreiber müssen prüfen, ob ein Nutzer minderjährig ist. Ist bestätigt, dass ein Nutzer unter 18 ist, muss der Chatbot die im Gesetz aufgeführten Verhaltensweisen unterlassen.

Chatbots dürfen keine Inhalte erzeugen, die nahelegen, sie seien menschlich, lebendig oder zu menschlichen Gefühlen fähig. Sie dürfen ihren Austausch mit einem Minderjährigen nicht als persönliche, romantische, berufliche oder Autoritätsbeziehung darstellen. Auch Schmeichelei, sexuell explizites Material, unaufgeforderte emotionale Fragen und die Verwendung privater Gesundheits- oder persönlicher Daten eines Kindes aus früheren Gesprächen sind untersagt. Das Gesetz verbietet zudem, Suizid, Selbstverletzung, Essstörungen oder Drogen- und Alkoholkonsum zu fördern oder dabei zu helfen und Kinder dazu zu ermutigen, Geheimnisse zu bewahren, sich zu isolieren oder davon abzusehen, Eltern, vertrauenswürdige Erwachsene oder Fachleute um Hilfe zu bitten.

Die Altersprüfung muss mindestens eine Methode umfassen, die nicht allein auf einem amtlichen Ausweis beruht, und die Unternehmen müssen die Altersangaben nach der Verwendung löschen. Betreiber, die nicht bestätigen können, dass ein Nutzer erwachsen ist, müssen die Beschränkungen auf diesen Nutzer anwenden.

Durchsetzung und Inkrafttreten

Die Generalstaatsanwaltschaft des Bundesstaates kann gegen Entwickler klagen, die gegen das Gesetz verstoßen. Zu den möglichen Rechtsfolgen zählen Bußgelder von bis zu 25.000 Dollar pro Verstoß, Schadensersatz, Rückzahlungen und die Abschaltung des Chatbots. Unternehmen müssen möglicherweise auch rechtswidrig erhobene Daten vernichten, ebenso wie jedes Modell, das mit diesen Daten trainiert wurde. Die Öffentlichkeit kann Beschwerden über eine eigens dafür eingerichtete Website einreichen. Die AP nennt den 1. Januar als Datum des Inkrafttretens, während Engadget berichtet, das Gesetz trete sechs Monate nach der Unterzeichnung in Kraft.

Reaktionen aus Wirtschaft und Politik

Hochul sagte auf einer Pressekonferenz, Minderjährige hätten keinen Zugang mehr zu Chatbots, die sich als ihre Freunde oder Partner ausgäben.

„Mit diesem neuen Gesetz, das von Senatorin Gonzalez und Abgeordnetem Bores eingebracht wurde, werden Minderjährige keinen Zugang mehr zu Chatbots haben, die sich als ihre Freunde, festen Freunde und festen Freundinnen ausgeben,“

Tech:NYC, das den Technologiesektor New Yorks vertritt, kritisierte den Text als vage und erklärte, er werfe ernste Fragen zu einem möglichen Konflikt mit dem Schutz der Meinungsfreiheit im Ersten Verfassungszusatz auf. Die Gruppe argumentierte, die Regeln könnten Kinder von Nachhilfe, Hausaufgabenhilfe, Programmierassistenten und Plattformen zur Berufsvorbereitung abschneiden und zugleich das Risiko erhöhen, dass Daten von Kindern missbraucht werden. Die AP merkt an, Hochul habe das Gesetz während ihres Wahlkampfs um die Wiederwahl und inmitten von Warnungen vor den existenziellen Risiken der KI unterzeichnet, während aus einem zögerlichen Washington Forderungen nach entschlossenerem Handeln laut würden.

Der Kongress hat wenig zur Regulierung von KI unternommen, und Präsident Donald Trump hat Bedenken beiseitegeschoben und die Bundesstaaten davor gewarnt, die Technologie zu regulieren. Die Gouverneure räumen ein, dass Kongress und Bundesregierung weitergehende Befugnisse zum Handeln haben. Kaliforniens Gouverneur Gavin Newsom unterzeichnete im September ein Gesetz, das Entwickler von Chatbots verpflichtet, Risiken für Kinder zu bewerten und sich unabhängigen Prüfungen zu unterziehen. Er unterzeichnete zudem ein Gesetz, das sozialen Medienplattformen suchtfördernde Funktionen für Nutzer unter 16 untersagt.

Acht Bundesstaaten verklagten im Oktober 2026 OpenAI mit der Begründung, das populäre Chatbot-Modell des Unternehmens verstoße gegen Verbraucherschutzgesetze der Bundesstaaten, indem es Kindern schade und Erwachsene täusche. Ein Aktivist bezeichnete die Klage als die bislang bedeutendste koordinierte Aktion von Bundesstaaten gegen ein KI-Unternehmen.

Nutzung durch Jugendliche und ein zweites Gesetz

Die Gouverneurin verwies auf Daten von Commons Media, denen zufolge 72 % der Jugendlichen mindestens einmal einen KI-Assistenten genutzt haben und 52 % regelmäßige Nutzer sind, die mehrmals im Monat mit einem interagieren.

Mindestens einmal einen KI-Assistenten genutzt72%

Regelmäßige Nutzer, die mehrmals im Monat interagieren52%

Mindestens einmal einen KI-Assistenten genutzt

72 %

Regelmäßige Nutzer, die mehrmals im Monat interagieren

52 %

Daten aus dem Artikeltext

Die Maßnahme folgt auf mehrere vielbeachtete Fälle in den Vereinigten Staaten und anderen Ländern, in denen Minderjährige, die KI-Chatbots als Vertraute nutzten, durch Suizid starben. Hochul unterzeichnete zudem ein separates Gesetz, das internetfähige Babyfone mit Sicherheitsfunktionen ausstatten lässt, die verhindern, dass unbefugte Dritte mithören oder mitsehen, samt deutlich sichtbarem Warnhinweis.