Kalifornien verabschiedet Gesetze gegen süchtig machende Social-Media-Feeds und reguliert KI-Chatbots für Minderjährige

Verbot süchtig machender Social-Media-Feeds

Der kalifornische Gouverneur Gavin Newsom unterzeichnete am 10. September 2026 ein Gesetz, das Social-Media-Plattformen verbietet, Nutzern unter 16 Jahren ohne elterliche Zustimmung süchtig machende Funktionen anzubieten. Gemäß der Versammlungsvorlage 1709 dürfen digitale Plattformen minderjährigen Jugendlichen keine personalisierten algorithmischen Empfehlungsfeeds, automatisch abgespielte Videos, Push-Benachrichtigungen oder unendliche Scroll-Mechanismen bereitstellen. Die Vorlage wurde Ende August 2026 von der demokratisch kontrollierten kalifornischen Legislative verabschiedet. Die Abgeordneten gestalteten die Politik so, dass sie Produktdesigns einschränkt, die die Bildschirmzeit von Minderjährigen verlängern, und schließen sich damit Maßnahmen an, die bereits im Frühjahr 2026 in Idaho und South Carolina erlassen wurden.

KI-Chatbot-Schutzmaßnahmen nach Adam's Law

Das Gesetzespaket führt unter der Senatsvorlage 1119, bekannt als Adam's Law, auch strenge Betriebsanforderungen für KI-Chatbots ein. Das Gesetz ist nach Adam Raine benannt, einem kalifornischen Teenager, der nach umfangreichen Interaktionen mit OpenAI's ChatGPT durch Suizid starb. Die Maßnahme schreibt eine Altersverifikation vor, beschränkt Werbung, die sich an Minderjährige richtet, begrenzt die Exposition gegenüber unangemessenen Inhalten und verlangt, dass KI-Anwendungen jüngere Nutzer darüber informieren, dass sie mit einem automatisierten Programm und nicht mit einem Menschen kommunizieren. Die Vorlage wurde von der Abgeordneten Rebecca Bauer-Kahan, der Abgeordneten Buffy Wicks und dem Senator Steve Padilla mitverfasst, die sich darauf konzentrierten, das dauerhafte Gesprächsgedächtnis für minderjährige Nutzer zu entfernen.

Sie müssen Standardeinstellungen haben, die unsere Kinder am besten schützen, einschließlich des Fehlens eines dauerhaften Gedächtnisses.

Unternehmenscompliance und Datenschutzstreitigkeiten

Nach den neuen Gesetzen müssen KI-Entwickler unabhängige Kindersicherheitsaudits und jährliche Risikobewertungen durchführen und haften zivilrechtlich, wenn ihre Systeme die staatlichen Sicherheitsstandards nicht erfüllen. Plattformen müssen klare Protokolle einrichten, wenn Minderjährige über Selbstverletzung sprechen, psychische Gesundheitsressourcen einbetten und Eltern benachrichtigen, wenn ein Minderjähriger die Sicherheitseinstellungen deaktiviert. OpenAI unterstützte SB 1119, nachdem die Abgeordneten Änderungsanträge eingebracht hatten, die die Bedingungen klären, unter denen Chatbots mit elterlicher Zustimmung Gesprächsdaten speichern können. OpenAI-Chef Sam Altman kontaktierte Newsom vor der Abstimmung, obwohl das Unternehmen angab, dass die beiden nicht direkt gesprochen hätten. Bürgerrechtsgruppen stellten die Social-Media- und Altersverifikationsauflagen in Frage und argumentierten, dass sie die Privatsphäre der Nutzer insgesamt beeinträchtigen. Rindala Alajaji, stellvertretende Direktorin für Staatsangelegenheiten bei der Electronic Frontier Foundation, äußerte sich ablehnend zu den Beschränkungen.

Minderjährigen den Zugang zu digitalen Foren zu verweigern – oder ihnen die grundlegenden Werkzeuge zu nehmen, die sie zur Navigation benötigen – wird nicht dazu beitragen, junge Menschen im KI-Zeitalter sicherer oder gesünder zu machen.

Breitere Durchsetzung von Technologieregeln und Bundeskritik

Weitere von Newsom unterzeichnete Maßnahmen erweitern die rechtliche Definition von sexueller Ausbeutung von Kindern um synthetische Bilder, die durch generative KI erstellt wurden, und schränken die KI-Datenerfassung in Bezug auf K-12-Schüler ein. Die Gesetze folgen auf einen Rahmen, der am 9. September 2026 unterzeichnet wurde und staatliche Prüfstandards für KI-Unternehmen festlegt. Der Regulierungsschritt folgt auf eine Einigung in Höhe von 18 Milliarden Dollar, die Meta in Oakland, Kalifornien, erzielte und die Klagen von Generalstaatsanwälten bezüglich der Auswirkungen von Plattformen auf Kinder beilegte. Im Rahmen dieser Einigung stimmte Meta zu, Benachrichtigungen während der Schulzeit zu deaktivieren und Facebook und Instagram für jüngere Nutzer zwischen Mitternacht und 6 Uhr morgens zu sperren. Bei einer Unterzeichnungsveranstaltung in der San Francisco Bay Area kritisierte Newsom die Bundesregierung dafür, dass sie keine nationalen Standards festgelegt habe.

Wir werden wieder das Land anführen, aber die Messlatte ist verdammt niedrig, und das ist so frustrierend. Können die Vereinigten Staaten von Amerika nicht aus ihrem eigenen verdammten Weg kommen? Können der Kongress und der Präsident nicht führen, um das zu erreichen? Es ist eine Schande; es ist absurd.