Amerykański gigant technologiczny Meta otrzymał patent na kontrowersyjną technologię opartą na sztucznej inteligencji, która ma symulować aktywność osób zmarłych w mediach społecznościowych. System wykorzystuje zaawansowane modele językowe trenowane na prywatnych archiwach cyfrowych, aby automatycznie publikować posty, komentować treści i prowadzić interakcje z żyjącymi użytkownikami. Rozwiązanie to budzi gwałtowne dyskusje dotyczące etyki cyfrowego lutto i prywatności pośmiertnej.
Patent na cyfrowe klony
Meta otrzymała patent na system AI naśladujący zachowania zmarłych użytkowników, w tym lajkowanie, komentowanie i symulowanie rozmów wideo.
Trening na prywatnych danych
Modele mają być szkolone na bazie historii postów, prywatnych wiadomości oraz aktywności użytkownika przed jego śmiercią lub dezaktywacją konta.
Kontrowersje etyczne
Technologia określana jako grief tech budzi sprzeciw ze względu na kwestie prywatności pośmiertnej oraz emocjonalny wpływ na osoby będące w żałobie.
Koncern Meta, właściciel platform Facebook, Instagram oraz WhatsApp, zarejestrował patent opisujący wykorzystanie dużych modeli językowych (LLM) do podtrzymywania aktywności na nieaktywnych kontach. Mechanizm ma opierać się na „danych specyficznych” użytkownika, obejmujących jego historyczne polubienia, komentarze, a nawet style wypowiedzi w wiadomościach prywatnych. Celem projektu jest stworzenie cyfrowego klona, który po śmierci pierwowzoru będzie w stanie przewidzieć reakcje danej osoby na nowe treści pojawiające się w sieci i odpowiednio na nie zareagować. Technologia ta, określana mianem cyfrowej nieśmiertelności, mogłaby nawet symulować połączenia głosowe i wideo. Pojęcie „grief tech” (technologia żałoby) zyskało na znaczeniu w ostatniej dekadzie wraz z rozwojem startupów oferujących chatboty imitujące zmarłych bliskich, co jednak nigdy wcześniej nie było wdrażane na masową skalę przez globalnych gigantów technologicznych. Implementacja takich rozwiązań wiąże się z fundamentalnymi pytaniami o granice prywatności. Eksperci zwracają uwagę, że trenowanie algorytmów na danych osób, które nie mogą już wycofać swojej zgody, jest wątpliwie etyczne. Meta argumentuje jednak, że nagłe zniknięcie aktywnego profilu wywołuje negatywny wpływ na zaangażowanie pozostałych członków społeczności, a automatyzacja postów mogłaby łagodzić poczucie straty. W dokumentacji patentowej wskazano, że model mógłby aktywować się nie tylko po zgonie, ale również podczas długotrwałej nieobecności użytkownika, na przykład w trakcie urlopu. Projekt wywołał falę krytyki ze strony obrońców praw człowieka, którzy ostrzegają przed komercjalizacją żałoby. „Wpływ na pozostałych użytkowników jest znacznie silniejszy i trwalszy, jeśli dany użytkownik zmarł, co uzasadnia potrzebę symulowania jego dalszej obecności.” — Przedstawiciel Meta w dokumencie patentowym Analitycy rynkowi wskazują, że choć patent został przyznany, jego wdrożenie w Unii Europejskiej może napotkać poważne bariery prawne wynikające z przepisów RODO oraz nadchodzącego AI Act. Obecnie nie wiadomo, czy rozwiązanie to stanie się standardową funkcją serwisów społecznościowych, czy pozostanie jedynie zabezpieczeniem własności intelektualnej korporacji. Niemniej jednak sam fakt ubiegania się o taką technologię przez Marka Zuckerberga pokazuje kierunek, w którym zmierza branża technologiczna w poszukiwaniu nowych form interakcji i zatrzymania uwagi odbiorcy za wszelką cenę. 2023 — w tym roku Meta złożyła pierwotny wniosek o patent Liberalne media skupiają się na postępie technologicznym i nowych możliwościach cyfrowego zachowania dziedzictwa, podkreślając dobrowolność wyboru. | Konserwatywne media akcentują naruszenie sacrum śmierci, odhumanizowanie relacji i niebezpieczeństwa związane z kontrolą technokracji nad duszą.
Mentioned People
- Mark Zuckerberg — Dyrektor generalny Meta, odpowiedzialny za strategię rozwoju sztucznej inteligencji w firmie.
Sources: 7 articles from 7 sources
- Algorytm, który nie pozwala odejść. Meta opatentowała cyfrową nieśmiertelność (cyberdefence24.pl)
- Publicar desde el más allá: la IA que permite publicar post de fallecidos en Instagram y Facebook (La Razón)
- Meta patentó una IA para simular la actividad de usuarios fallecidos en Instagram y Facebook (20 minutos)
- AI wcieli się w zmarłych użytkowników Facebooka? Nowy patent Mety (geekweek.interia.pl)
- Redes sociales inmortales: Meta ideó una IA que simula la actividad... (europa press)
- Meta ha brevettato un modo per far stare su Whatsapp anche i defunti (La Repubblica.it)
- Bliscy po śmierci "nadal będą do nas pisać"? Twórcy Facebooka patentują nowe AI (Business Insider)