Czy społeczeństwo powinno akceptować ryzyko AI, by technologia pozostała w ludzkich rękach?

Dyrektor generalny OpenAI Sam Altman twierdzi, że potężna sztuczna inteligencja musi pozostać szeroko dostępna dla opinii publicznej, oświadczając: Wierzymy, że świat powinien zaakceptować pewne złe rzeczy w zamian za korzyści tej technologii i za to, by ludzie mieli sprawczość.

Altman odrzucił propozycje ograniczenia zaawansowanych systemów do jednego laboratorium badawczego w San Francisco, choć ustawodawcy w Waszyngtonie rozważają ponadpartyjne projekty wymagające zewnętrznych audytorów bezpieczeństwa dla czołowych firm sztucznej inteligencji.

Jednak badacze bezpieczeństwa ostrzegają, że branża działa zdecydowanie zbyt lekkomyślnie, a były szef ds. bezpieczeństwa Geoffrey Irving mówi o szacowanym na 50% ryzyku, że sztuczna inteligencja mądrzejsza od człowieka mogłaby doprowadzić do wymarcia ludzkości.