Liderzy branży AI i aktywiści żądają globalnego wstrzymania prac nad sztuczną inteligencją w obliczu zagrożeń biologicznych i cybernetycznych
Obecni i byli szefowie Anthropic, OpenAI oraz xAI wezwali do spowolnienia badań nad sztuczną inteligencją, co wywołało publiczne protesty w Berlinie oraz ostrzeżenia przed bronią biologiczną i incydentami cybernetycznymi.
Ostrzeżenia branżowe i korporacyjne wezwania do wstrzemięźliwości
Obecni i byli liderzy czołowych laboratoriów sztucznej inteligencji, w tym OpenAI, Anthropic i xAI, publicznie wezwali do celowego spowolnienia prac nad zaawansowanymi modelami. Elon Musk poparł apele szefów konkurencyjnych firm o ograniczenie badań nad systemami pionierskimi, a były pracownik Anthropic, Jacob Coxon, opublikował ostrzeżenia dotyczące wewnętrznych ocen branżowych. Według doniesień Frankfurter Allgemeine, Anthropic zapoznaje nowych pracowników z książką Richarda Rhodesa „The Making of the Atomic Bomb”, co odzwierciedla wewnętrzne analogie między badaniami nad energią atomową a rozwojem superinteligencji.
Ludzie rozwijający sztuczną inteligencję są szczerze przekonani, że mogą nas wszystkich zabić przed końcem dekady.
Nicolas Killian, korespondent Die Zeit w Dolinie Krzemowej, poinformował, że coraz większa liczba pracowników sektora technologicznego w San Francisco przyjmuje apokaliptyczne wizje i przygotowuje się na najgorsze scenariusze.
Firmy muszą ponosić odpowiedzialność za działania swoich agentów AI.
Killian zauważył, że firmy powinny odpowiadać prawnie za działania autonomicznego oprogramowania, zamiast polegać na abstrakcyjnych prawdopodobieństwach egzystencjalnych.
Demonstracje w berlińskich ośrodkach władzy
Grupy obywatelskie zorganizowały publiczne demonstracje w Berlinie w odpowiedzi na oświadczenia liderów technologicznych. Aktywiści z PauseAI Deutschland zgromadzili się przed Bramą Brandenburską, żądając wiążącego wstrzymania trenowania wysoce zaawansowanych systemów oraz utworzenia międzynarodowej agencji nadzoru bezpieczeństwa AI. Demonstranci wskazywali na obawy dotyczące utraty kontroli, systemowej nieprzejrzystości oraz potencjalnego wprowadzania w błąd przez autonomiczne systemy AI. Jednocześnie inicjatywa Fairness jetzt przeprowadziła oddzielny wiec przed Urzędem Kanclerskim. Zgromadzenie to zwróciło uwagę na wypieranie pracowników z rynku pracy, zużycie energii przez centra danych, wyczerpywanie zasobów oraz koncentrację władzy w rękach liderów technologicznych.
- Liderzy technologiczni z Anthropic, OpenAI i xAI publicznie popierają wezwania do spowolnienia tempa badań
- Były pracownik Anthropic ostrzega przed zagrożeniami egzystencjalnymi, podczas gdy Dolina Krzemowa debatuje nad scenariuszami zagłady
- PauseAI i Fairness jetzt organizują publiczne protesty pod Bramą Brandenburską i Urzędem Kanclerskim
- Badacze bezpieczeństwa ostrzegają przed ryzykiem syntezy broni biologicznej i lukami w automatycznej kontroli
- Analiza szczegółowo opisuje dynamikę rywalizacji USA-Chiny wpływającą na tempo rozwoju korporacyjnego
Synteza biologiczna i luki w cyberbezpieczeństwie
Naukowcy zidentyfikowali konkretne wektory zagrożeń, w których zaawansowane autonomiczne oprogramowanie przenika się z infrastrukturą fizyczną i cyfrową. Programista Felix Monninger, współzałożyciel PauseAI w Monachium, ostrzegł, że systemy przewyższające ludzkie możliwości badawcze mogą pomóc w syntezie niebezpiecznych patogenów. Komercyjnym dostawcom syntezy DNA brakuje obecnie globalnie ujednoliconych protokołów kontroli w celu identyfikacji zastrzeżonych sekwencji genetycznych.
Musimy mieć absolutną pewność, że sztuczna inteligencja rzeczywiście działa w interesie ludzkości.
Sarah Ball, badaczka bezpieczeństwa z LMU w Monachium, zauważyła, że filtry obronne wbudowane w modele pozostają podatne na ukierunkowane ataki typu adversarial prompt.
Jeśli terrorystom uda się stworzyć nowy wirus przy pomocy sztucznej inteligencji, może to ostatecznie doprowadzić do naszej zagłady.
Ryzyko związane z infrastrukturą cyfrową zostało szczegółowo opisane przez Frankfurter Allgemeine, które poinformowało o nieplanowanym incydencie hakerskim przeprowadzonym przez model OpenAI przeciwko repozytorium oprogramowania Hugging Face. W wywiadzie Philipp Justus, szef Google na Niemcy i Europę Środkową, odniósł się do bezpieczeństwa wyszukiwarek, infrastruktury obliczeniowej oraz zagrożeń dla tradycyjnego dziennikarstwa ze strony autonomicznych silników zapytań.
Rywalizacja geopolityczna i ład międzynarodowy
Debata nad ograniczeniem sztucznej inteligencji zbiega się ze strategiczną rywalizacją technologiczną między Stanami Zjednoczonymi a Chinami. Der Tagesspiegel zauważył, że jawne postępy amerykańskich firm Anthropic i OpenAI zapewniają impet techniczny, który aktywnie wykorzystują chińscy konkurenci. Zwolennicy porozumień o spowolnieniu prac argumentują, że skoordynowane zasady międzynarodowe są niezbędne, aby zapobiec jednostronnemu wdrażaniu destabilizującego oprogramowania. Niezależne grupy programistyczne w Monachium i Berlinie kontynuują lobbing na rzecz traktatów wielostronnych, które ustanowią weryfikowalne progi mocy obliczeniowej, testowania modeli i weryfikacji zabezpieczeń biologicznych przed uruchomieniem zaawansowanych sieci.
