Szef ONZ ostrzega: sztuczna inteligencja rozwija się szybciej niż przepisy, wzywa do globalnego nadzoru
António Guterres powiedział podczas pierwszego globalnego dialogu ONZ na temat zarządzania AI w Genewie, że sztuczna inteligencja wyprzedza regulacje, i wezwał do zharmonizowanych globalnych zasad, aby chronić dzieci i zapobiec przyszłości „kodowanej na vibe”.
Otwarcie ostrzeżenia
Guterres otworzył dwudniowy dialog 6 lipca ostrym stwierdzeniem: systemy AI rozwijają się w zawrotnym tempie, szybciej niż instytucje mające je kontrolować.
Określił wybór jako „między zarządzaniem z zamysłem a dryfowaniem z przyzwyczajenia.”„Technologia, która może przekształcić gospodarki, zmienić świat pracy, wpłynąć na wybory i przechylić szalę bezpieczeństwa, jest wdrażana szybciej, niż ktokolwiek, w tym jej twórcy, jest w stanie nadążyć.”
Ryzyko „vibe-codingu” i dzieci
Wskazał na „vibe-coding” – praktykę pozwalającą AI pisać kod na podstawie poleceń w języku naturalnym – jako symbol utraty ludzkiego nadzoru.
Guterres zaproponował globalne zobowiązanie dotyczące bezpieczeństwa dzieci: obowiązkowe testy bezpieczeństwa zanim AI trafi do dzieci, zakaz generowanych przez AI obrazów seksualnych nieletnich oraz gwarancję, że zaniepokojone dzieci zostaną skierowane do pomocy ludzkiej.„Vibe-coding może zdziałać cuda, ale nie możemy kodować na vibe przyszłości ludzkości.”
„Nie pozwalamy, aby lek trafił do dziecka, dopóki nie zostanie uznany za bezpieczny; testujemy każdą zabawkę. A jednak AI dotarła do naszych dzieci.”
Raport naukowy
Delegaci analizują wstępny raport Niezależnego Międzynarodowego Panelu Naukowego ONZ ds. AI, opublikowany 1 lipca. 40-osobowy panel stwierdził, że możliwości AI przyspieszają szybciej niż zdolność rządów do ich zrozumienia, testowania lub regulowania. Guterres streścił przesłanie:
Bardziej kompleksowy raport ma się ukazać w przyszłym roku, wraz z drugim globalnym spotkaniem w Nowym Jorku.„Świat nie może zarządzać tym, czego nie rozumie.”
Regulacyjna mozaika
Dialog odbywa się w rozdrobnionym krajobrazie regulacyjnym. Unijna ustawa o AI jest jednym z nielicznych wiążących ram prawnych, choć wdrażanie jest zróżnicowane. Chiny ograniczyły humanoidalne agenty AI. Stany Zjednoczone nie wprowadziły jeszcze trwałych przepisów federalnych. Guterres ostrzegł, że większość krajów „nie miała nic do powiedzenia w decyzjach, które ukształtują ich przyszłość”, a władza skupiona jest w rękach garstki firm i państw.
- Panel naukowy ONZ publikuje wstępny raport ostrzegający, że możliwości AI wyprzedzają zarządzanie.
- Pierwszy globalny dialog ONZ na temat zarządzania AI rozpoczyna się w Genewie; Guterres wygłasza ostrzeżenie.
- Dialog kontynuowany; delegaci dyskutują o zasadach i ograniczaniu ryzyka.
- Kompleksowy raport i drugie globalne spotkanie planowane w Nowym Jorku.
Kolejne kroki
Spotkanie w Genewie nie jest negocjacją traktatu, ale forum do uzgadniania podejść. Guterres wezwał rządy, aby „nie czekały”, domagając się wspólnych metod oceny ryzyka, uzgodnionych standardów oraz czterech priorytetów: bezpieczeństwa, praw człowieka, budowania potencjału w krajach rozwijających się i przejrzystości. Dialog trwa do 7 lipca.
