Macron fordert Verbot von KI-Anwendungen, die Kinder gefährden – Pariser Appell zur KI-Sicherheit unterzeichnet

Der Ruf nach Grenzen für riskante KI bei Kindern

Frankreichs Präsident Emmanuel Macron sagte, Anwendungen künstlicher Intelligenz, die die psychische Gesundheit und die Gehirnentwicklung von Kindern beeinträchtigen könnten, müssten verboten werden. In einem Interview mit dem Wirtschaftsblatt Les Echos, das am Abend des 9. November 2026 online erschien, forderte er zudem Schutzvorkehrungen für die Demokratie und die nationale Sicherheit. Er beschrieb die Aufgabe als den Aufbau eines Rahmens, der drei Arten von Gefahren berücksichtige: Kinder, demokratische Sicherheit und nationale Sicherheit. Die Äußerungen fielen unmittelbar vor der Eröffnung des Paris Peace Forum.

„Wenn von bestimmten KI-Anwendungen ein Risiko für Kinder ausgeht, dann müssen sie verboten werden.“

Macron sagte, die Unternehmen würden ein Vor-Audit und eine Vor-Zertifizierung akzeptieren, verbunden mit einer vorherigen Untersuchung ihrer Modelle, bevor Kinder sie nutzen können. Er nannte OpenAI und Anthropic unter den Firmen, die ihre Modelle unabhängigen Bewertungen und Prüfungen unterziehen würden, bevor sie sie Minderjährigen zugänglich machen. Europa werde seine eigene Regulierung vorantreiben, so Macron, und er drängte die Amerikaner, die Kanadier und andere, dem zu folgen; er sprach vom Beginn einer Regulierung für Frontier-KI.

Der Pariser Appell zur KI-Sicherheit

Fast 50 politische Verantwortliche, Vertreter internationaler Organisationen, Technologieunternehmen und Forschende unterzeichneten am 9. November 2026 den Pariser Aufruf zur Sicherheit von KI. Sechs Länder unterzeichneten: Bahrain, Kanada, Finnland, Frankreich, Norwegen und die Niederlande. Auch zehn Unternehmen unterzeichneten, darunter OpenAI, Anthropic, Microsoft und Mistral AI, während zivilgesellschaftliche Gruppen wie LawZero, SaferAI, AI Safety Connect und Ifri den Text unterstützten. Der Appell setzt drei Prioritäten: unabhängige Bewertungen stärken, den Austausch von Warnungen über Zwischenfälle verbessern und Verantwortlichkeiten festlegen. Ziel ist eine abgestimmte internationale Antwort auf die Risiken der fortgeschrittensten KI-Modelle.

Unterzeichnende Länder6

Unterzeichnende Unternehmen10

Unterzeichnende Länder

6

Unterzeichnende Unternehmen

10

Daten aus dem Artikeltext

Aufsicht über KI-Assistenten

Ein Expertenausschuss, der Conseil de l'IA et du numérique (CIANum), übergab Macron am 10. November 2026 während des Paris Peace Forum seinen Bericht. Seine zentrale Schlussfolgerung lautet, dass die Aufsicht über KI-Assistenten – von ChatGPT bis Gemini oder Grok – sofort verschärft werden sollte. Die Empfehlungen betreffen ein Feld, das bislang weniger untersucht ist als die Wirkungen sozialer Netzwerke. Macron setzt sich zudem für ein Verbot bestimmter sozialer Netzwerke für Kinder unter 15 Jahren ein. Er rahmte das Vorhaben als Frage der Gestaltung und nicht der Ablehnung.

„Es geht nicht darum, diese Innovationen abzulehnen, sondern einen Rahmen zu schaffen, der die Gefahren berücksichtigt.“

Zeitlicher Ablauf und nächste Schritte

Die Abfolge begann am 9. November 2026 mit der Unterzeichnung des Appells und der Veröffentlichung des Les-Echos-Interviews am selben Abend. Am 10. November erreichte der Expertenbericht Macron, und das Forum wurde eröffnet; die Sitzungen waren für den 10. und 11. November angesetzt. Nach Angaben des Élysée soll die Charta die nationalen und europäischen Gesetzgebungsdebatten informieren. Les Echos merkte an, dass der Ansatz unverbindlich bleibt, auch wenn sich die Unterzeichner der Charta zu unabhängigen Bewertungen generativer KI-Systeme und zum Zugang zu den Daten ihrer Modelle verpflichten würden.

Grenzen des Ansatzes

Macron sagte, die derzeitige Regelung könne so nicht bleiben. Er argumentierte, das System müsse geändert werden, bis hin zu einem Verbot, falls es sich als schädlich erweise.

„Dieses System ist nicht zukunftsfähig, es muss geändert werden, bis hin zu einem Verbot, wenn es schlecht ist.“

Die bislang angekündigten Verpflichtungen beruhen auf Freiwilligkeit und nicht auf verbindlichem Recht. Das Paris Peace Forum soll am 10. und 11. November 2026 stattfinden.