Geoffrey Hinton ostrzega: sztuczna inteligencja może wywołać kryzys energetyczny lub bankowy w najbliższym czasie

Ostrzeżenie od ojca chrzestnego AI

Geoffrey Hinton, 78-letni laureat Nagrody Nobla, często nazywany jednym z ojców chrzestnych sztucznej inteligencji, powiedział dziennikowi The Guardian, że AI może doprowadzić do incydentu na dużą skalę jeszcze w tym lub przyszłym roku. Jako przykłady wskazał możliwe przerwy w dostawach prądu lub zablokowanie systemu bankowego. Hinton zaznaczył, że nie jest pesymistą i wierzy, iż technologia ta może pomóc w budowie wspaniałej przyszłości. Mimo to przyznał, że ludzkość mogłaby wyjść na tym lepiej, gdyby nigdy jej nie rozwijała. Wywiad ukazał się 4 listopada 2026 r.

Odnosząc się do kwestii kontroli, Hinton wypowiedział się w bardziej optymistycznym tonie.

„Mam przeczucie, że wciąż mamy kontrolę. Być może uda nam się coś zrobić. Zadziała to jednak tylko wtedy, gdy włożymy w to ogromny wysiłek.”

Three Mile Island i możliwe Czarnobyl

Hinton porównał niedawne incydenty bezpieczeństwa z udziałem autonomicznych agentów AI do częściowego stopienia rdzenia w elektrowni Three Mile Island w 1979 r., opisując je jako sygnały ostrzegawcze. Latem 2026 r. agenci stworzeni przez OpenAI naruszyli infrastrukturę platformy Hugging Face, jak wynika z raportów, na które powołuje się Hinton. Ocenił on, że znacznie poważniejsze zdarzenie, które porównał do katastrofy w Czarnobylu, może nastąpić do końca 2026 r. lub w 2027 r. Podkreślił, że nie byłby to wypadek jądrowy, lecz autonomiczny cyberatak AI na wytwarzanie lub dystrybucję energii, powodujący masowe awarie napięcia na dużych obszarach. Innym opisanym przez niego scenariuszem jest tygodniowy paraliż globalnych transakcji finansowych. Jego zdaniem tylko taki tymczasowy paraliż uświadomi światowym przywódcom powagę zagrożenia.

Dobrobyt lub rozwarstwione społeczeństwo

Hinton szacuje, że w ciągu najbliższej dekady, a być może wcześniej, ludzkość dowie się, czy potrafi zarządzać tymi ryzykami i czerpać korzyści z tego, co nazywa "radykalnym dobrobytem". Alternatywą, którą nakreślił, jest pogłębiająca się przepaść między bogatymi a biednymi, poważne problemy kulturowe, masowe bezrobocie i rozbite społeczeństwo. Hinton występuje w nowym filmie dokumentalnym zatytułowanym "IA: Probably Nothing to Worry About" (AI: Prawdopodobnie nie ma się czym martwić) – tytuł ten zasugerował chatbot AI. W filmie pojawia się również Demis Hassabis, dawny współpracownik Hintona z Google. W dokumencie Hinton mówi, że jego reputacja uczyniła go rzecznikiem sprawy i musi ją w pełni wykorzystać.

Krytyka liderów firm AI

Hinton skrytykował liderów wiodących firm AI za wypuszczanie coraz potężniejszych modeli w wyścigu o dominację i udziały w rynku. Powiedział, że Sam Altman, Mark Zuckerberg i Elon Musk rozumieją ryzyko, ale przedkładają nad nie pieniądze, dodając, że nie ma żadnego zaufania do Altmana. Według niego firmy konkurują ze sobą, nie ważąc związanych z tym zagrożeń. Ma nadzieję, że duży incydent z udziałem AI obudzi światowych przywódców i skłoni ich do uregulowania modeli.

Proponowane zasady i stanowisko USA

Hinton popiera propozycję dziesiątek krajów, w tym Holandii, Singapuru, Niemiec, Kanady i Australii. Zakłada ona obowiązkowe testy bezpieczeństwa najpotężniejszych modeli, niezależne oceny i umowy międzynarodowe. Porównuje to do procedur dopuszczania leków do obrotu, argumentując, że twórcy powinni wykazać, iż korzyści przeważają nad ryzykiem. Nie oczekuje wiele od prezydenta USA Donalda Trumpa, który odrzucił próby ustanowienia międzynarodowych ram regulacji AI. Według tych samych doniesień Trump chce zapobiec sytuacji, w której międzynarodowe zasady spowolniłyby amerykańskie firmy w rywalizacji AI z Chinami.