Trump podpisuje okrojoną dyrektywę w sprawie AI, dając rządowi 30-dniowy dobrowolny przegląd zaawansowanych modeli

Co przewiduje zarządzenie

Prezydent Donald Trump podpisał we wtorek zarządzenie wykonawcze tworzące dobrowolne ramy dla rządu federalnego do weryfikacji potężnych nowych modeli AI przed ich wypuszczeniem. Zarządzenie zobowiązuje Biuro Narodowego Dyrektora ds. Cyberbezpieczeństwa do opracowania procesu mającego na celu udostępnianie operatorom infrastruktury krytycznej, w tym bankom, lokalnym zakładom użyteczności publicznej i szpitalom, informacji o lukach w oprogramowaniu wykrytych przez systemy AI. Zgodnie z nowymi przepisami, firmy technologiczne zostaną poproszone o udostępnianie swoich modeli AI rządowi do przeglądu na maksymalnie 30 dni przed publiczną premierą, co jest zawężeniem wcześniejszego projektu, który przewidywał 90 dni, a który niektórzy przedstawiciele branży chcieli skrócić nawet do 14 dni.

Nie podobały mi się pewne aspekty pierwotnego zarządzenia.

Zarządzenie nie wprowadza obowiązkowych wymogów przeglądu. Udział firm AI jest dobrowolny, choć oczekuje się, że wiodące firmy wezmą w nim udział. Agencje bezpieczeństwa narodowego będą zobowiązane do wzmocnienia zdolności cyberbezpieczeństwa i utworzenia „cyberbezpiecznej centrali”. W ciągu 60 dni Departament Skarbu, Agencja Bezpieczeństwa Narodowego, Agencja ds. Cyberbezpieczeństwa i Bezpieczeństwa Infrastruktury, Narodowy Instytut Standardów i Technologii oraz urzędnicy Białego Domu muszą opracować tajny proces benchmarkingu, aby ocenić zaawansowane zdolności cybernetyczne modeli AI i zdecydować, kiedy model powinien być traktowany jako „objęty model graniczny”.

Droga do wtorkowego podpisania

Zarządzenie wykonawcze było przygotowywane od miesięcy. Trump miał podpisać 90-dniową wersję zarządzenia 21 maja, ale nagle odrzucił ten projekt zaledwie kilka godzin przed planowaną ceremonią w Białym Domu. Według Axios, Biały Dom odroczył ceremonię pod naciskiem insiderów z branży technologicznej. Prezydent powiedział później dziennikarzom, że miał wątpliwości co do pierwotnego tekstu. W poniedziałek Trump wziął udział w małym, wysokiego szczebla spotkaniu w Białym Domu, na którym wraz z doradcami uzgodnił nowe, okrojone zarządzenie, które zostało podpisane podczas prywatnej ceremonii we wtorek.

Wewnętrzna walka w administracji

Zarządzenie wynikło z trójstronnej wewnętrznej walki, która sparaliżowała federalną politykę AI. O kontrolę rywalizowały trzy frakcje: Departament Handlu, który po cichu budował cywilne partnerstwa testowe z firmami AI; urzędnicy bezpieczeństwa narodowego, którzy chcą, aby agencje wywiadowcze oceniały modele graniczne przed ich wypuszczeniem; oraz pronowe pomocnicy, którzy twierdzą, że jakiekolwiek regulacje ryzykują spowolnieniem amerykańskiego przywództwa w dziedzinie AI. Konflikt został opisany przez zaangażowane osoby jako „walka na noże”. Były car Białego Domu ds. AI i obecny doradca David Sacks oraz zastępca dyrektora Narodowej Rady Ekonomicznej Ryan Baasch naciskali na język zakazujący tworzenia obowiązkowych licencji rządowych. Sacks nadal odgrywa wpływową rolę ze swojego nowego stanowiska poza Białym Domem, a nagłe odwołanie wcześniejszego zarządzenia wykonawczego nastąpiło po jego zaangażowaniu.

Katalizator Mythos

Wewnętrzna walka została zaostrzona przez model Anthropica o nazwie Mythos, który okazał się skuteczny w znajdowaniu słabości bezpieczeństwa w kodzie komputerowym i włamywaniu się do sieci. Model odkrył ponad 10 000 luk zero-day we wszystkich głównych systemach operacyjnych i przeglądarkach internetowych. Anthropic odmówił publicznego udostępnienia modelu, zamiast tego zapraszając małą grupę partnerów do przetestowania jego możliwości i naprawienia ich systemów. We wtorek firma poinformowała, że zaprosiła 150 kolejnych organizacji do programu, który nazywa Glasswing.

Myślę, że pomysł testowania, szczególnie dla dostawców infrastruktury krytycznej, aby mogli zidentyfikować luki i załatać je, zanim możliwości staną się szeroko dostępne, ma sens.

Samir Jain, wiceprezes ds. polityki w Center for Democracy and Technology, nazwał zarządzenie „niejasnym”, zauważając, że nie zapewnia ono społeczeństwu dużej widoczności procesu benchmarkingu. Ostrzegł, że nieprzejrzysta procedura stwarza możliwość, że każda administracja może sprawować arbitralną władzę nad tym, czy, kiedy i jak modele są wypuszczane, wykorzystując bezpieczeństwo jako pretekst do zablokowania lub utrudnienia modelu z powodów politycznych lub ideologicznych.

Partnerstwa branżowe i rządowe

Zarządzenie pojawia się po tym, jak administracja Trumpa zawarła w zeszłym miesiącu umowę z Microsoftem, Google DeepMind i xAI w sprawie wcześniejszego przeglądu nowych modeli AI przed ich wypuszczeniem. Centrum ds. Standardów i Innowacji AI (CAISI), część Departamentu Handlu USA, ma już podobne umowy z OpenAI i Anthropic. 5 maja CAISI ogłosiło umowy o testowaniu przedwdrożeniowym z Google DeepMind, Microsoft i xAI Elona Muska, ale kilka dni później ogłoszenie zostało usunięte ze strony NIST bez wyjaśnienia. Pracownikom CAISI nakazano zdjęcie strony, ale nie powiedziano im dlaczego. Rząd federalny niedawno usunął ze swojej strony internetowej szczegóły tej umowy, choć nie jest jasne, dlaczego.

Zaawansowane możliwości AI wzmacniają nasz Naród, ale także wprowadzają nowe względy bezpieczeństwa narodowego, które wymagają skoordynowanych działań w departamentach i agencjach wykonawczych.

Zarządzenie wykonawcze jest kolejnym sygnałem, że Trump odchodzi od swojego początkowego podejścia polegającego na niskiej regulacji AI. Jednym z jego pierwszych działań jako prezydenta było uchylenie zarządzenia wykonawczego z czasów Bidena, które ustanawiało standardy bezpiecznego rozwoju AI. Nowe ograniczenia pojawiają się w obliczu rosnących obaw, że najnowsze modele AI mogą być niebezpieczne, zwłaszcza w niepowołanych rękach.