Google wycofuje generator obrazów satelitarnych AI z Google Earth po 24 godzinach od premiery

Google 31 lipca wycofało funkcję Google Earth, która pozwalała użytkownikom na generowanie syntetycznych obrazów satelitarnych za pomocą poleceń tekstowych, zaledwie dzień po jej ogłoszeniu. Szybka decyzja była reakcją na falę demonstracji ze strony badaczy open-source i dziennikarzy, którzy pokazali, jak łatwo narzędzie może tworzyć realistycznie wyglądające fałszerstwa.

Premiera i natychmiastowa krytyka

Product manager Google, Bryan Horowitz, ogłosił integrację generatora obrazów Nano Banana 2 z Google Earth 30 lipca, zachęcając użytkowników do wpisywania „czegokolwiek, co chcą zobaczyć”. W ciągu kilku godzin badacz open-source Henk van Ess wygenerował i udostępnił sfabrykowane sceny: nieistniejącą elektrownię jądrową w Iranie, uchodźców na granicy USA z Meksykiem, krater po wybuchu obok szpitala w Gazie oraz wypadek samochodowy na ulicy w Amsterdamie.

Fałszerstwo nie musi wyglądać przekonująco samo w sobie. Dziedziczy wiarygodność mapy, na której powstało.

Co potrafiło wygenerować narzędzie

Tego samego dnia wiele redakcji powtórzyło ten eksperyment. NPR stworzyło obrazy płonącej wyspy Kharg w Iranie i zalanego Kapitolu w USA. BBC Verify pokazało zawaloną wieżę Eiffla, lej krasowy pochłaniający Wielką Piramidę w Gizie oraz rosyjskie czołgi w Kijowie. El Periódico wygenerowało krater po wybuchu w Melilli i scenę inwazji na Plaça de Catalunya w Barcelonie, wraz z pożarami i zawalonymi budynkami. 404 Media dodało fikcyjny krater po wybuchu w Los Angeles i umieściło protestujących przed kampusem Google w Mountain View.

Znaki wodne i porażki w wykrywaniu

Google początkowo broniło narzędzia, twierdząc, że każdy wygenerowany obraz posiada cyfrowy znak wodny SynthID, a szkodliwe tematy są blokowane. Firma sugerowała użytkownikom weryfikację obrazów za pomocą aplikacji Gemini lub Lens. Testy przeprowadzone przez van Essa i BBC Verify podważyły tę obronę: van Ess oszukał narzędzie do wykrywania AI (Hive) filmem wygenerowanym w Google Earth, podczas gdy BBC pokazało, że możliwe jest nakłonienie Gemini do uznania fałszywego obrazu z Google Earth za prawdziwy.

Dziennikarze mogą sprawdzić ten obraz i opisać go. Ale znowu, nie każdy to zrobi.

Obawy ekspertów o zaufanie do obrazów satelitarnych

Obrazy satelitarne od dawna są zaufanym źródłem weryfikacji wydarzeń w strefach konfliktów, podczas klęsk żywiołowych i w dochodzeniach dotyczących praw człowieka. Badacze, tacy jak Jake Godin z Bellingcat, nazywali je „pewnym źródłem”, ponieważ trudno było je sfałszować. Nowe narzędzie, integrując generowanie obrazów bezpośrednio z platformą mapową, zmieniło ten stan rzeczy. Sam Stockwell z Alan Turing Institute stwierdził, że narzędzie „psuje samą miarę używaną do obalania fałszywek”. Brady Africk z American Enterprise Institute zauważył, że fałszerstwa były „zakotwiczone w prawdziwych zdjęciach satelitarnych, usuwając niektóre z charakterystycznych cech generowania AI, takich jak niedopasowany teren i skala”.

Reakcja Google i wycofanie funkcji

31 lipca Google zmieniło kurs. Oświadczenie firmy przyznało, że „ludzie w wyjątkowy sposób ufają Google Earth jako wiarygodnemu widokowi świata” oraz że użytkownicy udostępniali wygenerowane obrazy, które wydawały się naruszać zasady firmy. Funkcja została wycofana do czasu opracowania silniejszych zabezpieczeń. Oświadczenie dodało, że wygenerowane obrazy nie pojawiały się w głównej wersji Google Earth i były oznaczone znakami wodnymi, jednak nie wystarczyło to, by zapobiec naruszeniom zasad. Nie podano terminu ewentualnego powrotu funkcji.