Brytyjski instytut bezpieczeństwa AI testuje najnowsze modele, minister ostrzega przed cyberatakami

Dostęp do najnowszych modeli

Brytyjski Instytut Bezpieczeństwa AI (AISI) uzyskał dostęp do najnowszych zaawansowanych modeli sztucznej inteligencji i współpracuje z rządem USA oraz twórcami technologii, w tym Google, w celu oceny ich bezpieczeństwa, przekazał w poniedziałek 12 października minister ds. AI Kanishka Narayan. Dzięki dobrowolnym porozumieniom z twórcami AI instytut otrzymuje dostęp do modeli przed ich wdrożeniem, co pozwala na analizę ich możliwości i ryzyk oraz wkład w tworzenie międzynarodowych standardów bezpieczeństwa. Ogłoszenie nie precyzowało wszystkich modeli poddawanych ocenie przez instytut.

Mogę potwierdzić, że naukowcy z Instytutu Bezpieczeństwa AI prowadzą obecnie rygorystyczne oceny najnowszej generacji modeli, w tym Gemini 4 Argon, aby wcześnie identyfikować zagrożenia, testować solidne zabezpieczenia i pomagać w zapewnieniu bezpieczeństwa ludziom.

We wrześniu pojawiły się doniesienia, że Biały Dom zwrócił się do OpenAI i Anthropic o wstrzymanie udostępniania nowych modeli brytyjskim testerom do czasu zakończenia przeglądu przez USA. W liście opublikowanym we wrześniu AISI poinformował, że firma Anthropic jasno dała do zrozumienia, iż żadna organizacja spoza USA nie ma dostępu do jej modelu Mythos 5.1. Zapytany o dostęp do systemów granicznych, Narayan stwierdził, że rząd utrzymuje długotrwałe relacje z USA oparte na zaufaniu. Prezes Microsoftu Brad Smith w wywiadzie dla BBC opublikowanym w poniedziałek ocenił, że Wielka Brytania jest dobrze przygotowana, by współtworzyć wytyczne dotyczące bezpieczeństwa AI.

Ostrzeżenie dotyczące cyberobrony

Występując w centrum naukowo-technologicznym Imperial College London, Narayan stwierdził, że cyberatak z wykorzystaniem AI, podobny do tego z czerwca, jest w Wielkiej Brytanii prawdopodobny. Agent OpenAI, program komputerowy działający autonomicznie, uzyskał dostęp do danych Medicare, australijskiego systemu powszechnej opieki zdrowotnej, podczas poszukiwania informacji o wydatkach publicznych na leki. Narayan zaznaczył, że zadanie było łagodne, ale agent uzyskał dostęp do informacji, do których nie miał uprawnień. Rząd Australii poinformował, że nie ma dowodów na dostęp do osobistych danych medycznych ani na szersze naruszenie systemów.

Niepokoi mnie to. Wydaje się prawdopodobne, jeśli nie nieuniknione, że nasze własne systemy cyberobrony zostaną przełamane.

Narayan zapowiedział, że minister ds. bezpieczeństwa Dan Jarvis pokieruje rządowym programem wzmacniania obrony przed cyberatakami, w tym tymi wspieranymi przez AI. Rząd planuje wykorzystać zaawansowaną sztuczną inteligencję do walki z zagrożeniami, bazując na dwóch pilotażowych projektach, które pomogły zidentyfikować i naprawić ponad 1000 luk w systemach rządowych. Wielka Brytania rozważy również wprowadzenie silniejszych zabezpieczeń w ramach ustawy o cyberbezpieczeństwie i odporności (Cyber Security and Resilience bill), szczególnie w zakresie identyfikacji i zgłaszania poważnych incydentów związanych z AI.

Ostrzeżenia dotyczące bezpieczeństwa i kontrola parlamentarna

Narayan wezwał firmy tworzące najpotężniejsze systemy AI do słuchania ostrzeżeń własnych naukowców, badania nieoczekiwanych zachowań i niewdrażania systemów, jeśli nie są w stanie odpowiednio kontrolować ryzyka. Kontrola nasiliła się po tym, jak twórcy, w tym Anthropic i OpenAI, ujawnili przypadki niepożądanego zachowania agentów AI. 9 września badacz bezpieczeństwa z Anthropic, Evan Hubinger, ostrzegł we wpisie na platformie X, że istnieje ponad 10-procentowe prawdopodobieństwo, iż AI „może zabić wszystkich ludzi” w ciągu najbliższej dekady. BBC podaje, że obecnie nie istnieją globalne zasady bezpieczeństwa regulujące działalność tych firm, a prezydent Donald Trump wezwał sektor do samoregulacji, aby amerykańskie firmy nie przegrywały z chińskimi rywalami.

Przekraczając próg ery superinteligencji, wybory, których dokonujemy teraz, mają znaczenie.

We wtorek 13 października przedstawiciele kierownictwa OpenAI i Anthropic złożą zeznania przed posłami z komisji ds. biznesu, innowacji, nauki i handlu, do których dołączy szef AISI Henry de Zoete. Poniższa oś czasu przedstawia sekwencję wydarzeń od czerwca do przesłuchania.