Meta stellt Instagram-KI-Bildfunktion nach viertägigem Aufschrei wegen Datenschutz und Einwilligung ein
Das Muse-Image-Tool, mit dem Nutzer ohne Erlaubnis KI-Deepfakes aus jedem öffentlichen Instagram-Konto erstellen konnten, wurde am späten Freitag nach Kritik von SAG-AFTRA, CAA und Tausenden von Nutzern deaktiviert.
Was die Funktion tat
Meta stellte Muse Image am Dienstag als sein erstes Bildgenerierungsmodell von Meta Superintelligence Labs vor. In den Meta-KI-Chatbot integriert, erlaubte das Tool jedem Nutzer, ein öffentliches Instagram-Konto zu @-erwähnen und sofort KI-Bilder basierend auf den Beiträgen dieses Kontos zu generieren. Nutzer konnten generierte Bilder auch durch Skizzen bearbeiten. Die Funktion war Teil einer größeren Suite von KI-Tools, die diese Woche angekündigt wurden, darunter spezielle Filter, die von Muse Image erstellt wurden und weiterhin auf Instagram verfügbar sind. Die Bild-aus-Konto-Funktion war standardmäßig für jedes öffentliche Profil aktiviert, ohne dass die Kontoinhaber benachrichtigt wurden, wenn ihre Inhalte verwendet wurden.
Das Einwilligungsproblem
Nutzer konnten nur verhindern, dass ihr Abbild in den Generator eingespeist wird, indem sie tief in den Einstellungen gruben und eine Option mit der Bezeichnung „Erlauben, dass andere mit Ihren Inhalten erstellen und sie wiederverwenden“ deaktivierten oder ihr gesamtes Profil auf privat stellten. Haley McNamara, Geschäftsführerin des National Center on Sexual Exploitation, bezeichnete das risikoreiche Design als inakzeptabel und stellte fest, dass es die Verantwortung auf den Einzelnen abwälze, Hürden zu überwinden, um sich abzumelden. Die Funktion wurde sofort als potenzielles Werkzeug für Sextortion und Betrüger eingestuft.
Dies untergräbt nicht nur offensichtlich unser Recht auf unser eigenes Abbild, sondern ist auch ein offensichtliches Werkzeug für #sextortion und andere Betrüger!
Hollywood greift ein
Die Schauspielergewerkschaft SAG-AFTRA forderte ihre Mitglieder am Donnerstag auf, sich manuell abzumelden, und verurteilte die automatische Anmeldung als völlige Fehleinschätzung der öffentlichen Stimmung. Die Creative Artists Agency, zu deren Kunden Tom Hanks und Meryl Streep gehören, kontaktierte Meta direkt. Der Emmy-prämierte Schauspieler Hannah Einbinder kritisierte die Funktion auf Instagram, teilte ihren Followern mit, dass sie automatisch aktiviert worden sei, und wies sie an, sie auszuschalten. Die CAA gab eine Erklärung ab, in der sie darauf bestand, dass der Name, das Bild, das Abbild, die Stimme oder das kreative Werk einer Person ohne klare, dokumentierte Einwilligung von keinem Dritten, einschließlich KI-Modellen, verwendet werden dürfe.
Da die Gefahren nicht einvernehmlicher digitaler Repliken allgemein bekannt sind, ist eine Funktion, die dieses Verhalten fördert, unklug. Wir begrüßen ihre Einstellung. Es ist das Verantwortungsvollste, was man tun kann.
Metas Kehrtwende
Am späten Freitag aktualisierte Meta seinen Blogbeitrag und postete auf Instagram, um bekannt zu geben, dass die Funktion nicht mehr verfügbar sei. Das Unternehmen erklärte, es habe beabsichtigt, ein nützliches kreatives Werkzeug bereitzustellen und den Menschen die Kontrolle darüber zu geben, ob auf ihre öffentlichen Inhalte Bezug genommen werden könne, aber das Feedback habe gezeigt, dass die Funktion das Ziel verfehlt habe. Dylan Byers, Gründungspartner von Puck News, berichtete als erster über die Entscheidung. Meta bestätigte, dass das Muse-Image-Modell selbst auf WhatsApp und der eigenständigen Meta-KI-App weiterhin aktiv ist, während die @-Erwähnungs-Bildgenerierungsfunktion auf Instagram vollständig deaktiviert wurde.
- Meta startet Muse Image auf Instagram mit automatischer Anmeldung für alle öffentlichen Konten.
- Nutzer und Medien veröffentlichen Anleitungen zum Deaktivieren der Funktion; der Aufschrei beginnt.
- CAA gibt Erklärung ab, die klare Einwilligung zur Nutzung des Abbilds fordert, und kontaktiert Meta direkt.
- SAG-AFTRA fordert alle Mitglieder und Instagram-Nutzer auf, sich abzumelden; Hannah Einbinder äußert sich.
- Meta gibt bekannt, dass die Funktion nicht mehr verfügbar ist, und aktualisiert seinen Blogbeitrag.
Breitere KI-Gegenreaktion
Der Vorfall ist der jüngste in einer Reihe von KI-Einführungen, die scharfe Kritik wegen Urheberrechts- und Datenschutzverletzungen hervorgerufen haben. OpenAI sah sich mit ähnlichen Bedenken konfrontiert, als es im September 2025 seinen Sora-Videogenerator veröffentlichte und die App schließlich im März 2026 abschaltete. Elon Musks X blockierte seinen Grok-Chatbot beim Posten bestimmter Bilder, nachdem in diesem Jahr Millionen manipulierte Bilder von echten Frauen und Kindern auf der Plattform erschienen waren. Google und andere Unternehmen sind ebenfalls auf Widerstand gestoßen, wie ihre KI-Systeme Bilder erstellen. Die New York Times, die über Metas Entscheidung berichtete, verklagt derzeit OpenAI wegen Urheberrechtsverletzung im Zusammenhang mit KI-Training.
