Google zieht KI-Satellitenbildgenerator nach 24 Stunden und Empörung aus Google Earth zurück

Google hat am 31. Juli eine Google Earth-Funktion zurückgezogen, die es Nutzern erlaubt hatte, synthetische Satellitenbilder mit Texteingaben zu generieren – einen Tag nach ihrer Ankündigung. Die schnelle Kehrtwende folgte auf eine Welle von Demonstrationen durch Open-Source-Forscher und Journalisten, die zeigten, wie leicht das Tool realistisch aussehende Fälschungen produzieren konnte.

Der Start und die sofortige Gegenreaktion

Der Google-Produktmanager Bryan Horowitz kündigte die Integration des Nano Banana 2-Bildgenerators in Google Earth am 30. Juli an und lud Nutzer ein, „einzutippen, was immer Sie sehen wollen“. Innerhalb von Stunden hatte der Open-Source-Ermittler Henk van Ess erfundene Szenen generiert und geteilt: ein nicht existierendes Atomkraftwerk im Iran, Flüchtlinge an der US-mexikanischen Grenze, einen Bombenkrater neben einem Krankenhaus in Gaza und einen Autounfall auf einer Amsterdamer Straße.

Die Fälschung muss nicht für sich genommen überzeugend wirken. Sie erbt die Glaubwürdigkeit der Karte, auf der sie geboren wurde.

Was das Tool generieren konnte

Noch am selben Tag wiederholten mehrere Nachrichtenagenturen das Experiment. NPR produzierte Bilder der brennenden iranischen Insel Kharg und eines überfluteten US-Kapitols. BBC Verify zeigte einen eingestürzten Eiffelturm, ein Erdbebenloch, das die Große Pyramide von Gizeh verschluckt, und russische Panzer in Kiew. El Periódico generierte einen Explosionskrater in Melilla und eine Invasionsszene auf der Plaça de Catalunya in Barcelona, komplett mit kleinen Bränden und eingestürzten Gebäuden. 404 Media fügte einen fiktiven Explosionskrater in Los Angeles hinzu und platzierte Demonstranten vor dem Google-Campus in Mountain View.

Wasserzeichen und Erkennungsfehler

Google verteidigte das Tool zunächst mit der Aussage, jedes generierte Bild trage ein SynthID-Digitalwasserzeichen und schädliche Themen seien blockiert. Das Unternehmen schlug vor, dass Nutzer Bilder über die Gemini-App oder Lens überprüfen könnten. Tests von van Ess und BBC Verify untergruben diese Verteidigung: van Ess täuschte ein KI-Erkennungstool (Hive) mit einem in Google Earth generierten Video, während die BBC zeigte, dass es möglich war, Gemini dazu zu bringen, ein gefälschtes Google Earth-Bild für echt zu erklären.

Journalisten könnten in der Lage sein, dieses Bild zu überprüfen und darüber zu berichten. Aber noch einmal: Nicht jeder wird das tun.

Expertenbedenken hinsichtlich des Vertrauens in Satellitenbilder

Satellitenbilder waren lange Zeit eine vertrauenswürdige Referenz zur Überprüfung von Ereignissen in Konfliktgebieten, Naturkatastrophen und Menschenrechtsermittlungen. Forscher wie Jake Godin von Bellingcat nannten sie „eine sichere Sache“, weil sie schwer zu fälschen war. Das neue Tool, das die Generierung direkt in die Kartenplattform einbettete, änderte diese Rechnung. Sam Stockwell vom Alan Turing Institute sagte, das Tool „korrumpiert genau das Maß, das verwendet wird, um Fälschungen zu entlarven“. Brady Africk vom American Enterprise Institute merkte an, dass die Fälschungen „an echte Satellitenbilder angebunden waren, was einige der verräterischen Anzeichen von KI-Generierung wie nicht übereinstimmendes Gelände und Maßstab entfernte“.

Googles Reaktion und Rücknahme

Am 31. Juli machte Google eine Kehrtwende. Eine Unternehmenserklärung räumte ein, dass „Menschen Google Earth einzigartig vertrauen, um ein zuverlässiges Bild der Welt zu erhalten“ und dass Nutzer generierte Bilder geteilt hatten, die gegen seine Richtlinien zu verstoßen schienen. Die Funktion wurde zurückgenommen, während stärkere Schutzmaßnahmen entwickelt werden. Die Erklärung fügte hinzu, dass die generierten Bilder nicht in der Hauptansicht von Google Earth für andere sichtbar waren und mit Wasserzeichen versehen waren, aber das reichte nicht aus, um sofortige Richtlinienverstöße zu verhindern. Es wurde kein Zeitplan für eine mögliche Rückkehr genannt.