Pablo Motos ostrzega przed oszustwami z wykorzystaniem sztucznej inteligencji

Hiszpański prezenter telewizyjny Pablo Motos publicznie zaalarmował o nowej, wyrafinowanej fali oszustw finansowych, w których przestępcy wykorzystują spreparowane jego wizerunki, stworzone przy pomocy sztucznej inteligencji. W swoim programie „El hormiguero” udzielił głosu jednej z ofiar, która opowiedziała, jak straciła 300 tysięcy euro, inwestując w produkt reklamowany przez fałszywego Motosa. Jej zeznania mają charakter ostrzeżenia dla szerszej publiczności. Technologia deepfake, polegająca na generowaniu realistycznych, fałszywych nagrań wideo lub audio przy użyciu sztucznej inteligencji, rozwijała się dynamicznie od drugiej dekady XXI wieku. Początkowo wykorzystywana głównie w celach rozrywkowych i artystycznych, z czasem stała się narzędziem dezinformacji i przestępczości, budząc poważne obawy ekspertów ds. cyberbezpieczeństwa i prawa. Motos w ostrych słowach skrytykował wielkie firmy technologiczne, oskarżając je o współudział w rozprzestrzenianiu się tego typu oszustw. Stwierdził, że platformy społecznościowe nie reagują odpowiednio na zgłaszane nadużycia i nie usuwają fałszywych treści w wystarczającym tempie. Jego wypowiedź wskazuje na szerszy problem odpowiedzialności platform za treści publikowane przez użytkowników oraz ich zdolność do moderowania szkodliwych materiałów. „Las grandes tecnológicas son cómplices. Todo el mundo sabe que esto ocurre y todo el mundo sabe dónde ocurre, y ellas no hacen nada.” (Wielkie firmy technologiczne są współwinne. Wszyscy wiedzą, że to się dzieje, i wszyscy wiedzą, gdzie to się dzieje, a one nic z tym nie robią.) — Pablo Motos Sprawa Pablo Motosa nie jest odosobniona i wpisuje się w globalny trend wykorzystywania deepfake'ów oraz innych technik AI do celów przestępczych. Przestępcy coraz częściej podszywają się pod znane osobistości, celebrytów lub przedstawicieli firm, by zdobyć zaufanie ofiar i wyłudzić od nich pieniądze. Realizm generowanych nagrań utrudnia ich rozpoznanie przez przeciętnego użytkownika internetu. Incydent ten podkreśla pilną potrzebę rozwoju skuteczniejszych mechanizmów wykrywania i zwalczania fałszywych treści, a także edukowania społeczeństwa w zakresie cyberbezpieczeństwa. Wymaga również przemyślenia ram prawnych dotyczących odpowiedzialności platform za treści generowane przez użytkowników przy użyciu sztucznej inteligencji.