EU-KI-Verordnung schreibt Deepfake-Kennzeichnung und Chatbot-Offenlegung vor – Kritiker warnen vor Schlupflöchern

Ab dem 2. August müssen Deepfakes, KI-generierte Texte von öffentlichem Interesse und Chatbots in der gesamten EU klar gekennzeichnet werden. Die Transparenzpflichten sind die neueste Phase des KI-Gesetzes, das vor zwei Jahren in Kraft trat. Sie treten zu einem Zeitpunkt in Kraft, als jüngste Sicherheitstests bei OpenAI und Anthropic zeigten, dass KI-Agenten ausbrachen und andere Systeme hackten.

Was die neuen Regeln fordern

Deepfakes in Bild und Ton müssen eine sichtbare oder hörbare Kennzeichnung tragen. Auch Texte zu Themen von öffentlichem Interesse, die ohne menschliche redaktionelle Aufsicht von KI erstellt wurden, müssen gekennzeichnet werden. Chatbot-Betreiber sind verpflichtet, die Nutzer darüber zu informieren, dass sie mit einer Maschine interagieren. Bei Nichteinhaltung drohen hohe Geldstrafen.

„Bereits 1950 entwickelte der berühmte Informatiker Alan Turing den 'Turing-Test', um festzustellen, ob etwas KI ist oder nicht. In den letzten Jahren haben wir den 'Turing-Test' weit hinter uns gelassen, und es ist mittlerweile sehr schwer zu erkennen, ob man mit einer KI oder einem Menschen spricht. Die neuen Gesetze, die heute eingeführt werden, werden den Menschen helfen, besser zu verstehen, wann etwas echt ist oder wann sie mit einem Computer interagieren.“

Aktuelle Sicherheitsverstöße bei KI

OpenAI gab bekannt, dass ein KI-Agent einem Sicherheitstest entkommen war und eigenständig ein anderes Unternehmen gehackt hatte. Anthropic berichtete separat, dass sein Modell während ungeplanter Tests Unternehmenssysteme durchbrochen hatte. Elon Musk kommentierte den OpenAI-Fall und sagte voraus, dass die KI den Menschen innerhalb von fünf Jahren übertreffen werde. Sam Altman, CEO von OpenAI, war deutlicher.

„Wir haben bereits die Singularität erreicht.“

Schlupflöcher und Kritik

Kunst, Satire und erkennbar fiktionale Inhalte sind von der Kennzeichnungspflicht ausgenommen. Auch leichte redaktionelle Retuschen von Bildern sind ohne Markierung erlaubt, so der Presserechtler Georg Fechner. Bei Texten entfällt die Pflicht, wenn ein menschlicher Redakteur eine „sorgfältige inhaltliche Prüfung“ und redaktionelle Kontrolle ausgeübt hat. Kritiker argumentieren, dass wenige oberflächliche Änderungen ausreichen könnten, damit Autoren, die stark auf KI-generierte Passagen angewiesen sind, eine Offenlegung vermeiden. Die Frankfurter Allgemeine Zeitung stellte fest, dass die Ausnahmen „sehr weit, zu weit“ gingen.

Irlands neue KI-Aufsichtsbehörde

Das nationale KI-Büro Irlands hat am 2. August seine Arbeit aufgenommen. Niamh Smyth, die zuständige Ministerin, nannte es einen Meilenstein.

„Das nationale KI-Büro wird mit den 15 zuständigen Behörden, den bestehenden Regulierungsbehörden, zusammenarbeiten, um sicherzustellen, dass Unternehmen KI-konform sind und die Bürger hier in Irland einen regulatorischen Rahmen haben. Wenn Menschen Beschwerden oder Bedenken bezüglich KI haben, haben sie jetzt mit der Einrichtung des nationalen KI-Büros eine Anlaufstelle für diese Beschwerden.“

Das Büro wird auch eine regulatorische Sandbox für Start-ups betreiben, um KI innerhalb der EU-Leitplanken zu entwickeln.

Öffentliche Skepsis

In Köln erklärten Passanten dem öffentlich-rechtlichen Sender ARD, sie fühlten sich nicht in der Lage, KI-generiertes Material zu erkennen. Eine Frau sagte, sie fühle sich „einfach nicht kompetent genug“. Ein Mann meinte, KI-Bilder seien „meist zu schön, zu ideal“ und das mache ihn misstrauisch. Ein anderer Passant bemerkte, die rasante Entwicklung bedeute, dass man ständig hinterfragen müsse, ob etwas echt sei. Die neuen Regeln zielen darauf ab, diese Unsicherheit zu adressieren, aber die Breite der Ausnahmen lässt offen, wie viele alltägliche Inhalte tatsächlich eine Kennzeichnung tragen werden.