Der amerikanische Technologieriese Meta hat ein Patent für eine kontroverse, auf künstlicher Intelligenz basierende Technologie erhalten, die die Aktivität verstorbener Personen in sozialen Medien simulieren soll. Das System nutzt fortschrittliche Sprachmodelle, die auf privaten digitalen Archiven trainiert werden, um automatisch Beiträge zu veröffentlichen, Inhalte zu kommentieren und Interaktionen mit lebenden Nutzern zu führen. Diese Lösung löst heftige Debatten über die Ethik der digitalen Trauer und postmortalen Privatsphäre aus.
Patent auf digitale Klone
Meta hat ein Patent für ein KI-System erhalten, das das Verhalten verstorbener Nutzer nachahmt, einschließlich Likes, Kommentaren und der Simulation von Videogesprächen.
Training auf privaten Daten
Die Modelle sollen auf der Grundlage der Beitragshistorie, privater Nachrichten und der Aktivität des Nutzers vor seinem Tod oder der Deaktivierung seines Kontos trainiert werden.
Ethische Kontroversen
Die als Grief Tech bezeichnete Technologie stößt aufgrund von Fragen der postmortalen Privatsphäre und der emotionalen Auswirkungen auf trauernde Personen auf Widerstand.
Der Konzern Meta, Eigentümer der Plattformen Facebook, Instagram und WhatsApp, hat ein Patent registriert, das die Nutzung großer Sprachmodelle (LLM) zur Aufrechterhaltung der Aktivität auf inaktiven Konten beschreibt. Der Mechanismus soll auf "nutzerspezifischen Daten" basieren, einschließlich seiner historischen Likes, Kommentare und sogar Sprachstile in privaten Nachrichten. Ziel des Projekts ist es, einen digitalen Klon zu schaffen, der nach dem Tod des Originals in der Lage sein soll, die Reaktionen dieser Person auf neue Online-Inhalte vorherzusagen und entsprechend darauf zu reagieren. Diese Technologie, die als digitale Unsterblichkeit bezeichnet wird, könnte sogar Sprach- und Videoanrufe simulieren. Das Konzept "Grief Tech" (Trauertechnologie) hat im letzten Jahrzehnt mit der Entwicklung von Startups, die Chatbots zur Nachahmung verstorbener Angehöriger anbieten, an Bedeutung gewonnen, wurde jedoch bisher nie in großem Maßstab von globalen Technologieriesen implementiert. Die Implementierung solcher Lösungen wirft grundlegende Fragen zu den Grenzen der Privatsphäre auf. Experten weisen darauf hin, dass das Trainieren von Algorithmen auf Daten von Personen, die ihre Einwilligung nicht mehr widerrufen können, ethisch fragwürdig ist. Meta argumentiert jedoch, dass das plötzliche Verschwinden eines aktiven Profils negative Auswirkungen auf das Engagement der verbleibenden Community-Mitglieder hat und die Automatisierung von Beiträgen das Verlustgefühl mildern könnte. In der Patentdokumentation wird darauf hingewiesen, dass das Modell nicht nur nach dem Tod, sondern auch während längerer Abwesenheit des Nutzers, beispielsweise im Urlaub, aktiviert werden könnte. Das Projekt hat eine Welle der Kritik von Menschenrechtsverteidigern ausgelöst, die vor der Kommerzialisierung der Trauer warnen. „Die Auswirkungen auf die verbleibenden Nutzer sind viel stärker und nachhaltiger, wenn ein Nutzer verstorben ist, was die Notwendigkeit der Simulation seiner weiteren Präsenz rechtfertigt.” — Vertreter von Meta in der Patentdokumentation Marktanalysten weisen darauf hin, dass, obwohl das Patent erteilt wurde, seine Umsetzung in der Europäischen Union aufgrund der Vorschriften der DSGVO und der bevorstehenden KI-Verordnung auf ernsthafte rechtliche Hindernisse stoßen könnte. Derzeit ist unklar, ob diese Lösung zu einer Standardfunktion sozialer Dienste wird oder lediglich als Schutz des geistigen Eigentums des Unternehmens dient. Dennoch zeigt die Tatsache, dass sich Mark Zuckerberg um eine solche Technologie bemüht, die Richtung, in die die Technologiebranche bei der Suche nach neuen Interaktionsformen und der Bindung der Aufmerksamkeit der Nutzer um jeden Preis strebt. 2023 — in diesem Jahr reichte Meta den ursprünglichen Patentantrag ein Liberale Medien konzentrieren sich auf den technologischen Fortschritt und die neuen Möglichkeiten der digitalen Bewahrung des Erbes, wobei sie die Freiwilligkeit der Wahl betonen. | Konservative Medien betonen die Verletzung des Sakralen des Todes, die Entmenschlichung von Beziehungen und die Gefahren der Kontrolle der Technokratie über die Seele.
Mentioned People
- Mark Zuckerberg — CEO von Meta, verantwortlich für die KI-Entwicklungsstrategie des Unternehmens.