Administracja Trumpa wprowadza ramy nadzoru AI: otwarte modele wyłączone z kontroli, a kryteria pozostają tajne

Administracja Trumpa przedstawiła we wtorek dobrowolne ramy weryfikacji ryzyka cybernetycznego zaawansowanych systemów sztucznej inteligencji, omawiając je z przedstawicielami sześciu największych firm technologicznych w Białym Domu. System zakłada 30-dniowy rządowy przegląd modeli typu closed-source przed ich publikacją, przy jednoczesnym wyłączeniu modeli open-weight oraz open-source. Biały Dom zamierza utrzymać ramy oraz stosowane w nich benchmarki w tajemnicy.

Zakres i wyłączenia

Osoby zaznajomione z dyskusjami przekazały dziennikom New York Times, Politico i Bloomberg, że proces przeglądu dotyczy modeli zamkniętych od deweloperów takich jak OpenAI i Anthropic. Modele te nie udostępniają swojego kodu źródłowego. Ramy wprowadzają szerokie wyłączenie dla systemów AI o otwartych wagach, co obejmuje rozwiązania amerykańskich firm, takich jak Meta, Nvidia i Google, a także chińskich podmiotów: Alibaba, DeepSeek i Moonshot AI. Źródło Politico podało, że polityka weryfikacji nie będzie miała zastosowania do modeli otwartych, mimo niedawnego wzrostu zainteresowania nimi.

30-dniowy proces przeglądu

Dobrowolne ramy pozwalają deweloperom AI na zgłaszanie nowych modeli do rządu federalnego z wyprzedzeniem do 30 dni przed publiczną premierą, jak podają Wired i Axios. Rząd oceni ich możliwości cybernetyczne zgodnie z niejawnym systemem benchmarków i udostępni modele agencjom federalnym oraz zaufanym partnerom korporacyjnym. Podczas przeglądu dostęp pracowników do modeli będzie ograniczony, systemy będą przechowywane w środowiskach o wysokim poziomie bezpieczeństwa, a szczegółowe logi dostępu będą archiwizowane. Firmy zachęcano do zgłaszania modeli jak najbliżej daty premiery, zamiast na wczesnym etapie prac.

Tajność i dostęp branżowy

Biały Dom nie planuje publikacji ram. We wtorkowych spotkaniach uczestniczyli przedstawiciele Anthropic, OpenAI, Microsoftu, Mety, Google i Nvidii, jednak firmy, które nie otrzymały zaproszenia, pozostają nieświadome szczegółów. Urzędnik Białego Domu przekazał Wired, że ramy są celowo wąskie i skupione na zdolnościach cybernetycznych najbardziej zaawansowanych modeli na rynku, takich jak Fable od Anthropic czy ChatGPT 5.6 od OpenAI. Drugi urzędnik powołał się na względy bezpieczeństwa narodowego jako powód utajnienia kryteriów oceny.

Krytyka i luka w otwartym oprogramowaniu

Eksperci ds. bezpieczeństwa i mniejsze startupy ostrzegają, że tajny proces daje przewagę największym laboratoriom. Osoba zaznajomiona z dyskusjami w Białym Domu powiedziała Wired, że ramy tworzą program utrwalający pozycję dużych dostawców AI i pomijają mniejszych konkurentów. Brad Carson, prezes organizacji non-profit Ameri, skrytykował tajność w wypowiedzi dla Wired:

To zbyt ważna kwestia, by ukrywać ją pod płaszczem tajemnicy.

Decyzja o wyłączeniu modeli open-source opóźnia również kontrolę regulacyjną nad coraz potężniejszym oprogramowaniem chińskich deweloperów. New York Times donosi, że zasady regulujące przeglądy są niemal gotowe, choć definicja najnowocześniejszych możliwości czy realnego zagrożenia dla bezpieczeństwa narodowego pozostaje niejasna. Ramy są całkowicie dobrowolne i obecnie nie istnieje mechanizm wymuszający przestrzeganie zasad, jeśli firmy przestaną zgłaszać swoje modele do oceny.