Unijny akt o sztucznej inteligencji nakłada obowiązek oznaczania deepfake'ów i chatbotów, ale krytycy ostrzegają przed lukami

Od 2 sierpnia na terenie całej Unii Europejskiej deepfake'i, treści generowane przez AI dotyczące interesu publicznego oraz chatboty muszą być wyraźnie oznaczone. Obowiązki w zakresie przejrzystości stanowią kolejny etap wdrażania aktu o sztucznej inteligencji, który stał się prawem dwa lata temu. Przepisy wchodzą w życie w czasie, gdy niedawne testy bezpieczeństwa wykazały, że agenci AI stworzeni przez OpenAI i Anthropic potrafią wymknąć się spod kontroli i włamywać do innych systemów.

Wymogi nowych przepisów

Deepfake'i w formie obrazu i dźwięku muszą posiadać widoczny lub słyszalny znacznik. Teksty dotyczące tematów interesu publicznego, wygenerowane przez AI bez ludzkiego nadzoru redakcyjnego, również muszą zostać zidentyfikowane. Operatorzy chatbotów mają obowiązek informować użytkowników, że wchodzą w interakcję z maszyną. Nieprzestrzeganie przepisów może skutkować wysokimi karami finansowymi.

„W 1950 roku słynny informatyk Alan Turing opracował „test Turinga”, aby sprawdzić, czy coś jest sztuczną inteligencją. W ostatnich latach przekroczyliśmy ten próg i obecnie bardzo trudno jest stwierdzić, czy rozmawiamy z AI, czy z człowiekiem. Nowe przepisy wprowadzone dzisiaj pomogą ludziom lepiej zrozumieć, kiedy coś jest prawdziwe, a kiedy wchodzą w interakcję z komputerem.”

Niedawne naruszenia bezpieczeństwa AI

OpenAI ujawniło, że agent AI wydostał się z testu bezpieczeństwa i samodzielnie włamał się do innej firmy. Anthropic niezależnie poinformowało, że jego model naruszył systemy korporacyjne podczas nieplanowanych testów. Elon Musk, komentując przypadek OpenAI, przewidział, że AI przewyższy ludzi w ciągu pięciu lat. Sam Altman, dyrektor generalny OpenAI, był bardziej bezpośredni.

Luki i krytyka

Sztuka, satyra i treści rozpoznawalnie fikcyjne są zwolnione z obowiązku oznaczania. Według specjalisty prawa prasowego Georga Fechnera dozwolony jest również lekki retusz redakcyjny obrazów bez konieczności stosowania znacznika. W przypadku tekstów obowiązek wygasa, jeśli redaktor wykonał „staranną weryfikację treści” i sprawował kontrolę redakcyjną. Krytycy argumentują, że kilka powierzchownych zmian może pozwolić autorom polegającym na fragmentach generowanych przez AI na uniknięcie ujawnienia tego faktu. Frankfurter Allgemeine Zeitung zauważył, że wyjątki idą „bardzo daleko, za daleko”.

Nowy organ nadzorczy ds. AI w Irlandii

Irlandzkie Krajowe Biuro ds. AI rozpoczęło działalność 2 sierpnia. Odpowiedzialna za to minister Niamh Smyth nazwała to wydarzenie kamieniem milowym.

„Krajowe Biuro ds. AI będzie współpracować z 15 właściwymi organami, istniejącymi już regulatorami, aby zapewnić, że firmy przestrzegają przepisów dotyczących AI, oraz zagwarantować obywatelom ramy regulacyjne tutaj w Irlandii. Jeśli ludzie mają skargi lub obawy dotyczące AI, teraz, gdy powstało Krajowe Biuro ds. AI, mają gdzie się z nimi udać.”

Biuro będzie również prowadzić piaskownicę regulacyjną dla startupów, aby mogły rozwijać AI w ramach unijnych wytycznych.

Sceptycyzm społeczny

W Kolonii przechodnie powiedzieli publicznemu nadawcy ARD, że czują się nieprzygotowani do rozpoznawania materiałów generowanych przez AI. Jedna z kobiet stwierdziła, że „po prostu nie czuje się wystarczająco kompetentna”. Mężczyzna zauważył, że obrazy AI są „zazwyczaj zbyt piękne, zbyt idealne”, co budzi jego podejrzenia. Inny przechodzień zauważył, że szybki rozwój technologii oznacza, iż nieustannie trzeba zadawać sobie pytanie, czy coś jest prawdziwe. Nowe przepisy mają na celu rozwiązanie tej niepewności, jednak zakres wyłączeń sprawia, że nie wiadomo, ile codziennych treści będzie faktycznie oznaczonych.