EU beginnt mit Durchsetzung der Transparenzregeln des KI-Gesetzes: Chatbots müssen sich identifizieren, Deepfakes müssen gekennzeichnet werden

Was sich am 2. August ändert

Ab Sonntag muss jedes interaktive KI-System wie ein Chatbot oder ein virtueller Assistent die Nutzer klar darüber informieren, dass sie mit einer Maschine kommunizieren, es sei denn, der Kontext macht dies offensichtlich (z. B. wenn jemand bewusst ChatGPT öffnet). Dieselben Regeln verlangen, dass von KI generierte oder manipulierte Bilder, Audio und Video, sogenannte Deepfakes, sichtbare oder hörbare Kennzeichnungen sowie technische Markierungen in den Metadaten tragen, damit Suchmaschinen und andere automatisierte Systeme sie erkennen können. Die Durchsetzung obliegt den von den Mitgliedstaaten benannten nationalen Marktüberwachungsbehörden, nicht dem KI-Büro der Kommission, dessen ausschließliche Zuständigkeit gemäß Artikel 88 KI-Modelle für allgemeine Zwecke betrifft. In Polen fehlte das Durchführungsgesetz zur Benennung dieser Behörde noch, als die Regeln in Kraft traten.

Durchsetzung und Strafen

Bei Verstößen gegen die Transparenzpflichten sieht Artikel 99 Absatz 4 Geldstrafen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist, verhängt von nationalen Behörden oder Gerichten und nicht von der Kommission. Die eigene Befugnis der Kommission zur Verhängung von Geldstrafen gemäß Artikel 101 erstreckt sich auf Anbieter von KI-Modellen für allgemeine Zwecke. Die Kommission veröffentlichte im Juni ihren Verhaltenskodex für Transparenz von KI-generierten Inhalten und teilte Ende Juli mit, dass etwa 190 Organisationen ihn unterzeichnet hätten.

Was die Regeln nicht abdecken

Die Pflicht zur Kennzeichnung KI-generierter Inhalte gilt nicht für Privatpersonen, sondern nur für Unternehmen und öffentliche Stellen. Gemäß Artikel 50 Absatz 4 gilt die Offenlegungspflicht nicht für KI-generierte Texte, die zur Information der Öffentlichkeit veröffentlicht werden, wenn die Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine Person oder Stelle die redaktionelle Verantwortung trägt – eine Ausnahme, die von Dr Damian Flisak, einem Experten für neues Technologierecht, erörtert wurde. Sie gilt nur für Texte: Von KI generierte oder manipulierte Bilder, Audio und Video erhalten keine redaktionelle Ausnahme. Inhalte, die nicht existierende Dinge darstellen, etwa einen Drachen, müssen nicht gekennzeichnet werden, aber Maciej Broniarz vom Zentrum für Forensik der Universität Warschau stellte bei Tok FM fest, dass dies Interpretationsspielraum lässt: Eine Illustration, die eine Flacherde-Theorie unterstützt, könnte von manchen als nicht existent angesehen werden, von anderen jedoch geglaubt werden.

Experten-Skepsis

Dr Maria Dymitruk, Partnerin bei der Kanzlei Lubasz i Wspólnicy, warnte, dass die Regeln die Flut von Deepfake-Desinformation möglicherweise nicht eindämmen.

Es scheint mir, dass wir infolge dieser Vorschriften mit KI-Kennzeichnungen aus der Wirtschaft, zum Beispiel in Werbung, überschwemmt werden. Und was seit langem unser Fluch ist – die Flut von Deepfakes im Internet, einschließlich solcher, die für Desinformation genutzt werden – wird sich leider wahrscheinlich nicht ändern.

Sie fügte hinzu, dass eine einfache „KI“-Kennzeichnung wirkungslos sein könnte, wenn die Nutzer nicht verstehen, was sie bedeutet, und forderte Bemühungen zur digitalen Kompetenzförderung. Olga Zabolewicz, Legislativspezialistin bei NASK, sagte, dass eine klare Kennzeichnung wie „Inhalt von künstlicher Intelligenz generiert“ in der Praxis ausreichen würde. Jarosław Śliżewski, Medienmarktexperte von Praktycy.eu, wies auf die Ungenauigkeit der Vorschriften hinsichtlich des Ausmaßes des KI-Eingriffs in journalistische Materialien hin.

Branchenstandards und die Grenzen von Kennzeichnungen

Der Rzeczpospolita-Artikel erinnert an einen Angriffswerbespot des National Republican Senatorial Committee vom März 2026, in dem der texanische demokratische Senatskandidat James Talarico mit einer synthetischen Stimme erschien, um seine eigenen fünf Jahre alten Beiträge vorzulesen, lächelnd und kommentierend. Das Video war KI-generiert, erkennbar nur an einer kleinen Beschriftung „AI GENERATED“ in der Ecke. Große Technologieunternehmen wie Adobe, Google, Microsoft und Meta entwickeln den C2PA-Standard, der Herkunfts- und Bearbeitungsgeschichte in digitale Dateien einbettet. Der Artikel stellt jedoch fest, dass ein Zertifikat die Geschichte eines Bildes zeigen, aber nicht das menschliche Urteil darüber ersetzen kann, was das Bild bedeutet.

Die gestaffelte Einführung

Nicht alle Teile des KI-Gesetzes treten heute in Kraft. Ein digitaler Omnibus-Änderungsantrag, der am 16. Juni vom Parlament und am 29. Juni vom Rat angenommen wurde und seit dem 27. Juli in Kraft ist, verschob mehrere Fristen. Er verschob auch die Pflicht der Anbieter gemäß Artikel 50 Absatz 2, maschinenlesbare Markierungen in synthetische Inhalte einzubetten, auf den 2. Dezember 2026, sodass ein Teil des Transparenzpakets heute nicht startet. Nationale Regulierungs-Sandboxen zum Testen von KI-Systemen sind nun bis zum 2. August 2027 fällig. Verpflichtungen für bestimmte Hochrisiko-KI-Systeme, die in der Personalbeschaffung oder im Bankwesen eingesetzt werden, werden auf den 2. Dezember 2027 verschoben. Neue Verbote für KI-Systeme, die ohne Zustimmung sexuell explizites Material oder Material über sexuellen Kindesmissbrauch erzeugen, gelten ab dem 2. Dezember 2026.