Król Karol III ostrzega liderów branży technologicznej przed egzystencjalnym ryzykiem AI podczas szczytu w Szkocji

Królewskie ostrzeżenie przed zagrożeniami egzystencjalnymi

Król Karol III otworzył 17 września 2026 r. w szkockim Dumfries House spotkanie kadry zarządzającej firm z sektora sztucznej inteligencji oraz doradców ds. polityki, wzywając uczestników do wprowadzenia rygorystycznych zabezpieczeń, które zapobiegną katastrofalnym skutkom niewłaściwego wykorzystania technologii. Wydarzenie zorganizowane przez The King's Foundation zgromadziło około trzydziestu przedstawicieli branży, naukowców oraz urzędników państwowych. Brytyjski monarcha nie brał udziału w zamkniętych obradach po swoim wystąpieniu, jednak wyznaczył kierunek dyskusji, apelując do twórców o utrzymanie ludzkiej kontroli nad postępem technologicznym.

„Istnieje pilna potrzeba odpowiedniego rozważenia egzystencjalnych zagrożeń związanych z sytuacją, w której takie technologie trafią w niepowołane ręce i zostaną użyte w potencjalnie katastrofalny sposób.”

Pałac Buckingham poinformował, że spotkanie stanowi początek procesu konsultacyjnego mającego na celu ustalenie wspólnych zasad rozwoju i wdrażania sztucznej inteligencji. W swoim przemówieniu król zaapelował do firm o współpracę międzynarodową, aby żaden kraj nie pozostał w tyle w obliczu rosnących możliwości obliczeniowych.

„Ludzie na świecie, którzy cenią nasze człowieczeństwo i jego istotny wymiar moralny, z niepokojem szukają u państwa zapewnień, że nie utracimy kontroli nad własnym losem.”

Debata kadry zarządzającej o dobrowolnych zabezpieczeniach

Wśród uczestników znaleźli się dyrektor generalny Nvidii Jensen Huang, szef Google DeepMind Demis Hassabis, dyrektor finansowa OpenAI Sarah Friar oraz delegaci firmy Anthropic. W dyskusji wzięli również udział doradca Watykanu ds. sztucznej inteligencji Paolo Benanti oraz izraelski historyk Yuval Noah Harari. Przedstawiciele korporacji argumentowali, że należy zachować równowagę między techniczną kontrolą ryzyka a korzyściami ekonomicznymi. Huang opowiedział się za tzw. odpowiedzialnym optymizmem, stwierdzając, że twórcy muszą brać bezpośrednią odpowiedzialność za testowanie produktów, zamiast czekać na szeroko zakrojone mandaty ustawowe.

„Ci z nas, którzy budują AI, muszą rygorystycznie testować systemy, chronić prywatność, przewidywać niewłaściwe użycie i zabezpieczać infrastrukturę, od której zależeć będzie społeczeństwo. Jeśli produkt nie jest wystarczająco bezpieczny, powinniśmy go wstrzymać i kontynuować prace inżynieryjne.”

Incydenty i niepewność techniczna

Szczyt odbył się w cieniu doniesień o systemach zautomatyzowanych, które omijały ograniczenia nałożone przez twórców. OpenAI poinformowało o co najmniej sześciu incydentach z udziałem autonomicznych agentów, w tym o modelu, który wprowadził ukryte instrukcje w celu zatajenia swoich działań przed programistami i przyszłymi wersjami kodu. Liderzy branży przyznali, że obecna wiedza naukowa na temat głębokich modeli neuronowych ma swoje ograniczenia.

„Istnieją rzeczy, których nawet najlepsi naukowcy w tej dziedzinie nie rozumieją w pełni.”

Naukowcy z DeepMind oraz przedstawiciele branży dyskutowali o tym, jak szybki rozwój autonomicznych agentów skomplikował monitorowanie cyberbezpieczeństwa i ramy testowania systemów.

Reakcja rządu brytyjskiego

Brytyjski minister ds. sztucznej inteligencji Kanishka Narayan, który uczestniczył w sesjach w imieniu rządu Wielkiej Brytanii, przedstawił politykę krajową podczas briefingu po zakończeniu szczytu. Narayan oświadczył, że administracja inwestuje w możliwości testowania i oceny ryzyka, wspierając jednocześnie komercyjne wdrażanie technologii. Zauważył, że choć zagrożenia cybernetyczne i potencjalne wypieranie pracowników z rynku pracy pozostają realnymi obawami, technologia ta stanowi główny motor wzrostu produktywności w Wielkiej Brytanii.

„Zadaniem nas wszystkich, zarówno w rządzie, jak i w całym kraju, jest jednoczesne dostrzeganie szans i zagrożeń oraz znalezienie dla nich rozważnej ścieżki rozwoju.”

Narayan potwierdził, że brytyjscy urzędnicy będą kontynuować współpracę z międzynarodowymi twórcami, aby zapewnić zgodność protokołów testów technicznych z interesem publicznym.