Google retire son générateur d'images satellites par IA de Google Earth après 24 heures et une vague d'indignation

Google a retiré le 31 juillet une fonctionnalité de Google Earth qui permettait aux utilisateurs de générer des images satellites synthétiques à l'aide d'instructions textuelles, un jour après son annonce. Ce retournement rapide a suivi une vague de démonstrations de la part de chercheurs open-source et de journalistes qui ont montré avec quelle facilité l'outil pouvait produire des faux d'apparence réaliste.

Lancement et réaction immédiate

Le chef de produit de Google, Bryan Horowitz, a annoncé l'intégration du générateur d'images Nano Banana 2 dans Google Earth le 30 juillet, invitant les utilisateurs à « taper ce que vous voulez voir ». En quelques heures, l'enquêteur open-source Henk van Ess avait généré et partagé des scènes fabriquées : une centrale nucléaire inexistante en Iran, des réfugiés à la frontière américano-mexicaine, un cratère de bombe à côté d'un hôpital de Gaza et un accident de voiture dans une rue d'Amsterdam.

Le faux n'a pas besoin d'être convaincant en lui-même. Il hérite de la crédibilité de la carte sur laquelle il est né.

Ce que l'outil pouvait générer

Le même jour, plusieurs médias ont reproduit l'exercice. NPR a produit des images de l'île iranienne de Kharg en feu et du Capitole américain inondé. BBC Verify a montré une tour Eiffel effondrée, un gouffre engloutissant la grande pyramide de Gizeh et des chars russes à Kiev. El Periódico a généré un cratère d'explosion à Melilla et une scène d'invasion sur la Plaça de Catalunya à Barcelone, avec de petits incendies et des bâtiments effondrés. 404 Media a ajouté un cratère d'explosion fictif à Los Angeles et placé des manifestants devant le campus de Google à Mountain View.

Filigranes et échecs de détection

Google a d'abord défendu l'outil en affirmant que chaque image générée portait un filigrane numérique SynthID et que les sujets nuisibles étaient bloqués. L'entreprise a suggéré aux utilisateurs de vérifier les images via l'application Gemini ou Lens. Les tests de van Ess et de BBC Verify ont sapé cette défense : van Ess a trompé un outil de détection d'IA (Hive) avec une vidéo générée dans Google Earth, tandis que la BBC a montré qu'il était possible de tromper Gemini en lui faisant déclarer réelle une fausse image de Google Earth.

Les journalistes pourraient vérifier cette image et en faire un reportage. Mais encore une fois, tout le monde ne va pas le faire.

Inquiétudes des experts sur la confiance dans l'imagerie satellite

L'imagerie satellite a longtemps été une référence fiable pour vérifier les événements dans les zones de conflit, les catastrophes naturelles et les enquêtes sur les droits de l'homme. Des chercheurs comme Jake Godin de Bellingcat l'ont qualifiée de « valeur sûre » car elle était difficile à falsifier. Le nouvel outil, en intégrant la génération directement dans la plateforme de cartographie, a changé la donne. Sam Stockwell de l'Alan Turing Institute a déclaré que l'outil « corrompt la mesure même utilisée pour démasquer les faux ». Brady Africk de l'American Enterprise Institute a noté que les faux étaient « ancrés dans des images satellites réelles, supprimant certains des signes révélateurs de la génération par IA comme le décalage du terrain et de l'échelle ».

Réponse de Google et retour en arrière

Le 31 juillet, Google a fait marche arrière. Un communiqué de l'entreprise a reconnu que « les gens font particulièrement confiance à Google Earth pour une vue fiable du monde » et que les utilisateurs avaient partagé des images générées qui semblaient violer ses politiques. La fonctionnalité a été retirée pendant que des garde-fous plus solides sont mis en place. Le communiqué a ajouté que les images générées n'apparaissaient pas dans l'expérience principale de Google Earth pour que d'autres les voient et étaient filigranées, mais cela n'a pas suffi à empêcher des violations immédiates des politiques. Aucun calendrier n'a été donné pour un éventuel retour.