Die meisten Pflichten des EU-KI-Gesetzes treten am 2. August in Kraft: Chatbots müssen sich identifizieren und Deepfakes müssen markiert werden

Eine neue Ära für KI-Transparenz

Am 2. August tritt der Großteil des EU-KI-Gesetzes in Kraft und markiert die weltweit erste umfassende KI-Regulierung. Ab diesem Datum müssen Anbieter von KI-Systemen die Nutzer darüber informieren, dass sie mit einer künstlichen Entität interagieren, und alle für berufliche Zwecke erstellten oder manipulierten KI-Inhalte müssen klar gekennzeichnet werden. Das KI-Büro der Europäischen Kommission beginnt mit der Überwachung von Allzweck-KI-Modellen und hat die Befugnis, Informationen anzufordern, Systeme zu bewerten und bei Nichteinhaltung einzuschränken.

„Künstliche Intelligenz ist eine transformative Technologie, die unseren Bürgern und Unternehmen außergewöhnliche Vorteile bringen kann. Aber wir sehen auch, dass sie Schaden anrichten kann, wenn sie nicht richtig entwickelt und eingesetzt wird, und dass die fortschrittlichsten Modelle Risiken völlig neuer Größenordnung mit sich bringen.“

Identifizierung von Chatbots und Deepfakes

Die sichtbarste Änderung für Verbraucher: Chatbots und virtuelle Assistenten müssen offenlegen, dass sie Maschinen sind. Jedes KI-generierte Bild, Video oder Audio, das beruflich genutzt wird, muss ein Wasserzeichen oder eine Kennzeichnung tragen. Die Verordnung erfasst auch Deepfakes allgemeiner und verlangt, dass sie erkennbar sind. Eine strengere verpflichtende Kennzeichnung für bestimmte synthetische Medien sowie das ausdrückliche Verbot von sexuellen Deepfakes und der Erzeugung von Kinderpornografie durch KI treten jedoch erst am 2. Dezember 2026 in Kraft.

Verbotene Praktiken bereits in Kraft

Seit 2025 ist eine Reihe von KI-Anwendungen, die als „inakzeptables Risiko“ gelten, in der gesamten EU verboten. Dazu gehören Systeme, die unterschwellige oder manipulative Techniken einsetzen, die Schwachstellen von Minderjährigen oder Behinderten ausnutzen, Rasse oder sexuelle Orientierung durch biometrische Kategorisierung ableiten oder Social Scoring implementieren. Ebenfalls verboten sind Emotionserkennung am Arbeitsplatz und in Schulen, massenhaftes Scraping von Internetbildern zur Erstellung von Gesichtserkennungsdatenbanken sowie die Echtzeit-Fernbiometrieidentifizierung im öffentlichen Raum durch Strafverfolgungsbehörden. Geldstrafen für die Nutzung solcher Systeme können bis zu 35 Millionen Euro betragen, bei Verstößen im Zusammenhang mit Hochrisiko-KI bis zu 15 Millionen Euro.

Aufsicht und Durchsetzung

Das Europäische KI-Büro wird die Aufsicht mit nationalen Behörden teilen. Es konzentriert sich auf Anbieter von Allzweck-KI-Modellen und Systeme, die in die Zuständigkeit der Kommission fallen, während die Mitgliedstaaten den Rest überwachen. Auch der Europäische Datenschutzbeauftragte wird bei der Durchsetzung eine Rolle spielen. Anbieter können mit Korrekturmaßnahmen und sogar Marktbeschränkungen belegt werden, wenn sie nicht einhalten.

„Europa hat diese Entwicklung vorweggenommen. Mit dem KI-Gesetz haben wir einen klaren, risikobasierten und dauerhaften Rahmen für vertrauenswürdige KI geschaffen, der Innovatoren Rechtssicherheit bietet und gleichzeitig das öffentliche Interesse schützt. Mit dem Beginn der Umsetzung machen wir einen wichtigen Schritt hin zu einer KI, die Menschen und Unternehmen verstehen und der sie vertrauen können, und deren Vorteile in unserer gesamten Gesellschaft weit verbreitet sind.“

Gestaffelte Umsetzung bis 2028

Das 2024 verabschiedete Gesetz wird schrittweise eingeführt. Die Frist vom 2. August löst die meisten Transparenzpflichten, Regeln für viele KI-Systeme sowie Pflichten für Anbieter und Nutzer aus. Weitere Anforderungen folgen im Dezember, die vollständige Umsetzung wird bis 2028 erwartet. Die Kommission hat zudem eine „Digital Omnibus“-Vereinfachungsmaßnahme verabschiedet, um einige Pflichten zu straffen.