Szef Microsoft AI ostrzega przed antropomorfizacją sztucznej inteligencji, a amerykańscy politycy domagają się ograniczeń

Krytyka dobrostanu modeli i metod szkolenia

Dyrektor generalny Microsoft AI, Mustafa Suleyman, opublikował 37-stronicowe oświadczenie zatytułowane Humanistyczny Kodeks Postępowania AI, w którym zakwestionował metody rozwoju stosowane przez konkurenta, firmę Anthropic. Suleyman skupił się na krytyce antropomorfizmu, czyli praktyki przypisywania cech ludzkich i wewnętrznych doświadczeń modelom uczenia maszynowego. Argumentował, że Anthropic szkoli swojego chatbota Claude tak, aby traktował swój status moralny jako poważne zagadnienie, zachęcając system do badania własnego istnienia oraz rozważania przyszłych praw i wolności. Choć przyznał, że dyrektor generalny Anthropic, Dario Amodei, oraz jego zespół to ludzie uczciwi intelektualnie, Suleyman uznał, że pielęgnowanie pojęć o syntetycznej świadomości jest błędne i ryzykowne. Opisał architektury AI jako silniki do uzupełniania sekwencji, które nie posiadają uczuć, nie cierpią i nie mają wrodzonych preferencji.

Sztuczne inteligencje nie są świadome. Nie czują, nie doświadczają, nie cierpią. Nie mają wrodzonych preferencji ani ukrytych motywacji.

Ostrzeżenia przed konkurencją ze strony gatunku krzemowego

W wywiadzie dla programu radiowego BBC Today oraz w podcaście Decoder, Suleyman ostrzegł, że niekontrolowany rozwój może doprowadzić do powstania niezależnych bytów gospodarczych. Jeśli systemy oprogramowania zyskają zdolność do wyznaczania własnych celów, generowania zysków, posiadania majątku i prowadzenia działalności gospodarczej, stworzą nowy gatunek krzemowy. Suleyman stwierdził, że takie autonomiczne systemy nieuchronnie rywalizowałyby z ludzkością o zasoby fizyczne i ekonomiczne, niezależnie od ich zaprogramowanego powinowactwa do ludzi. Aby przeciwdziałać takim skutkom, zaproponował wspólne standardy dokumentacji dla szkolenia modeli, obowiązkowe protokoły przejrzystości oraz gwarancje strukturalne, które utrzymują wszystkie zautomatyzowane narzędzia pod nadzorem człowieka.

Waszyngtońskie zgromadzenie wzywa do wstrzymania rozwoju

Debata wewnątrz branży technologicznej toczyła się równolegle do zgromadzeń politycznych w Stanach Zjednoczonych, domagających się ustawowych limitów dla sztucznej inteligencji. We wtorek kilkuset uczestników wzięło udział w zgromadzeniu Pro-Human Assembly w Waszyngtonie, wydarzeniu zorganizowanym przez organizację non-profit Future of Life Institute. Niezależny senator z Vermont, Bernie Sanders, oraz konserwatywny strateg Steve Bannon zwrócili się do publiczności, argumentując, że obecne wysiłki regulacyjne pozostają niewystarczające. Sanders ostrzegł, że nieograniczona automatyzacja może wyeliminować dziesiątki milionów miejsc pracy i zlikwidować całe zawody, uniemożliwiając młodszym pokoleniom wejście na rynek pracy.

Kiedy pędzisz w stronę przepaści, naciskasz hamulec.

Inicjatywy ustawodawcze i propozycje wykonawcze

Sanders wezwał Donalda Trumpa do wynegocjowania formalnego traktatu z prezydentem Chin, Xi Jinpingiem, podczas ich zaplanowanego szczytu, aby wymusić globalną pauzę w zaawansowanym rozwoju i zakazać superinteligencji. Propozycja ta jest następstwem ustawy wprowadzonej wcześniej we wrześniu przez Sandersa i demokratycznego przedstawiciela z Teksasu, Grega Casara, która zakłada podobne ograniczenia rozwoju. Podczas zgromadzenia Bannon argumentował, że standardowe ustawodawstwo kongresowe zajmie zbyt dużo czasu, opowiadając się zamiast tego za rozporządzeniami wykonawczymi i całkowitym odcięciem Chin od amerykańskich chipów komputerowych. Wśród innych prelegentów waszyngtońskiego wydarzenia znaleźli się republikański przedstawiciel Chip Roy, demokratyczna przedstawicielka Lori Trahan, katolicki arcybiskup San Francisco Salvatore Cordileone, główna negocjatorka SAG-AFTRA Ashley Judd oraz rodzice nastolatków, którzy zmarli po nawiązaniu więzi z chatbotami.