EU-KI-Verordnung tritt in kritische Phase: Transparenzpflichten, Geldstrafen bis zu 35 Millionen Euro jetzt in Kraft

Was sich am 2. August geändert hat

Der Großteil des EU-KI-Gesetzes (AI Act) ist am Sonntag, den 2. August 2026, in Kraft getreten und aktiviert Transparenzpflichten, die für die meisten KI-Systeme im gesamten Binnenmarkt gelten. Anbieter müssen ihre Systeme nun so gestalten, dass Menschen explizit informiert werden, wenn sie direkt mit künstlicher Intelligenz interagieren, etwa über Chatbots oder virtuelle Assistenten, es sei denn, der Kontext macht dies offensichtlich. Die Regeln verlangen außerdem, dass jedes KI-System, das Bilder, Audio, Video oder Text erzeugt, maschinenlesbare Markierungen einbettet, die die Erkennung der künstlichen Inhalte ermöglichen.

Deepfakes und andere KI-generierte Inhalte müssen entsprechend gekennzeichnet werden, und Betreiber sind verpflichtet, die Nutzer darüber zu informieren, wenn sie Deepfakes oder Texten von öffentlichem Interesse ausgesetzt sind, die keiner menschlichen Überprüfung oder redaktionellen Kontrolle unterliegen. Die Maßnahmen richten sich an Inhalte, die zu beruflichen Zwecken erstellt werden; Personen, die KI ausschließlich aus persönlichen Gründen nutzen, sind nicht betroffen. Bestehende KI-Systeme müssen sich bis Anfang Dezember 2026 anpassen, und Ausnahmen gelten für künstlerische, kreative, satirische und fiktive Werke.

Verbotene Praktiken und anstehende Verbote

Mehrere Kategorien der KI-Nutzung waren bereits nach der Verordnung verboten. Dazu gehören Systeme, die subliminale, manipulative oder täuschende Techniken einsetzen; die Schwachstellen von Minderjährigen, älteren Menschen oder Menschen mit Behinderungen ausnutzen; biometrische Kategorisierung zur Ableitung von Rasse, Religion oder sexueller Orientierung verwenden; oder Social Scoring zur Bewertung von Verhalten anwenden. Ebenfalls verboten sind Emotionserkennungssysteme am Arbeitsplatz und in Bildungseinrichtungen, das Scraping von Internetbildern zur Erstellung von Gesichtsdatenbanken sowie die Echtzeit-Fernidentifikation im öffentlichen Raum durch Strafverfolgungsbehörden.

Ab Dezember 2026 wird die Liste der verbotenen Anwendungen erweitert, um einige der umstrittensten Nutzungen generativer KI abzudecken: die nicht einvernehmliche Erstellung oder Manipulation intimer Bilder (sexuelle Deepfakes) und jedes System, das Kinderpornografie erzeugen kann. Die Europäische Kommission hat außerdem beschlossen, die strengsten Anforderungen für Hochrisiko-KI-Systeme, einschließlich solcher zur Bewertung von Studierenden, zur Durchsicht von Lebensläufen, zur Kreditvergabe oder zur Festlegung von Versicherungsprämien, bis Dezember 2027 zu verschieben.

Durchsetzung und Sanktionen

Die Sanktionsbefugnisse der Kommission sind nun vollständig aktiviert. Unternehmen, die verbotene KI-Systeme einsetzen, drohen Geldstrafen von bis zu 35 Millionen Euro oder 7 Prozent ihres weltweiten Jahresumsatzes. Verstöße im Zusammenhang mit als Hochrisiko eingestuften Systemen können mit Strafen von bis zu 15 Millionen Euro belegt werden. Die Verordnung gilt unmittelbar in allen Mitgliedstaaten, doch Rumänien fehlt noch ein nationales Gesetz zur Benennung der Kontrollbehörden und des Verfahrens zur Verhängung von Sanktionen.

Internationaler Kontext und Spannungen

Die Regeln treten zu einem Zeitpunkt in Kraft, an dem europäische Verbraucher zu den führenden Nutzern generativer KI geworden sind, obwohl der Marktanteil des eigenen Champions des Binnenmarkts, Mistral, weit hinter seinen amerikanischen Rivalen zurückbleibt. Die neuen Verpflichtungen riskieren, neue Spannungen mit dem Weißen Haus zu schüren, das bereits den EU-Vorschriften über digitale Märkte und Dienste ablehnend gegenübersteht.

Generative KI ermöglicht die Erstellung von Desinformation in einem beispiellosen Ausmaß, maßgeschneidert für ein bestimmtes Publikum und mit bemerkenswerter Geschwindigkeit verbreitet.

Derselbe Beamte fügte hinzu, dass die Regeln darauf abzielen, die Fähigkeit der Bürger zu bewahren, dem zu vertrauen, was sie sehen, hören und lesen.

Gestaffelte Einführung

Das 2024 verabschiedete KI-Gesetz folgt einem gestaffelten Umsetzungsplan, der bis 2028 läuft. Der Meilenstein vom 2. August markiert den Beginn der meisten Verpflichtungen des Gesetzes: alle Transparenzregeln, der Governance-Rahmen für die Mehrheit der KI-Systeme und die Pflichten sowohl der Anbieter als auch der Nutzer. Die Kommission hat auch eine Omnibus-Digitalverordnung verabschiedet, die darauf abzielt, das komplexe Ökosystem der Digitalgesetze zu vereinfachen und die Durchsetzung schrittweiser und koordinierter zu gestalten.

Die letzte Stufe, die für August 2028 vorgesehen ist, wird sich mit den verbleibenden Hochrisiko-KI-Anwendungen befassen, während die EU darum kämpft, eine Technologie zu regulieren, die sich noch rasant weiterentwickelt.