CEO Anthropic wzywa do regulacji AI na wzór FAA, dając rządom prawo blokowania niebezpiecznych wdrożeń modeli
CEO Anthropic, Dario Amodei, opublikował obszerny esej polityczny i dwa dokumenty ramowe, wzywające do obowiązkowych testów zaawansowanych modeli sztucznej inteligencji oraz przyznania rządom prawnej władzy do blokowania wdrożeń stwarzających katastrofalne ryzyko.
Anthropic przedstawił zestaw agresywnych propozycji politycznych wzywających do nowego reżimu regulacyjnego dla sztucznej inteligencji, bezpośrednio porównując go do nadzoru Federalnej Administracji Lotnictwa nad statkami powietrznymi. Centralnym elementem jest Zaawansowana Ramowa Umowa ds. AI, która przyznałaby rządom prawną władzę do blokowania lub odstraszania od wdrażania zaawansowanych modeli AI stwarzających „znaczące ryzyko katastrofalnych szkód”.
Proponowane ramy bezpieczeństwa
Ramy dotyczą modeli trenowanych przy użyciu ponad 10²⁵ operacji zmiennoprzecinkowych, opracowywanych przez firmy zarabiające ponad 500 mln USD przychodów z AI lub wydające ponad 1 mld USD na badania i rozwój AI. Ten próg obejmuje niewielką grupę: samego Anthropica, OpenAI, Google DeepMind, xAI i potencjalnie Meta. Cywilne kary pieniężne byłyby powiązane z globalnym rocznym przychodem i rosłyby w przypadku powtarzających się naruszeń.
Zaawansowane modele AI, podobnie jak samoloty, powinny przechodzić testy techniczne i audyty, a ich wydanie powinno być blokowane lub odwracane jako zagrożenie dla bezpieczeństwa publicznego, jeśli nie spełniają wysokich standardów bezpieczeństwa.
Anthropic identyfikuje cztery kategorie katastrofalnego ryzyka: rozwój broni biologicznej, odkrywanie luk w cyberbezpieczeństwie na dużą skalę, utrata kontroli nad systemami autonomicznymi oraz AI automatyzująca własne badania i rozwój. Firma wskazała na własne doświadczenia z Mythos Preview, który odkrył tysiące krytycznych luk w każdym głównym systemie operacyjnym i przeglądarce, jako dowód, że te zagrożenia nie są hipotetyczne.
Obowiązkowe testy i przejrzystość
Deweloperzy zaawansowanych modeli byliby zobowiązani do testowania swoich modeli, publikowania podsumowań wyników, poddawania się niezależnym ocenom, utrzymywania programów bezpieczeństwa oraz publikowania regularnych raportów o ryzyku. Amodei argumentował, że istniejące wymogi przejrzystości nie są już wystarczające.
Anthropic od dawna opowiadał się za wymogami przejrzystości dla zaawansowanych modeli AI, ponieważ zagrożenia nie były jeszcze wystarczająco jasne, by je precyzyjnie regulować. To już nie wystarcza.
Propozycja następuje po wykonawczym zarządzeniu dotyczącym nadzoru nad AI podpisanym przez prezydenta Donalda Trumpa 2 czerwca, które przyznaje społeczności wywiadowczej wzmocnioną rolę w testowaniu modeli. Amodei napisał, że zarządzenie Trumpa powinno pójść dalej i wymagać obowiązkowych testów pod kątem cyberbezpieczeństwa, broni biologicznej, utraty kontroli i zautomatyzowanego ryzyka badawczego.
Prewencja i władza stanowa
Anthropic zajął bezpośrednie stanowisko przeciwko naciskom Białego Domu na blokowanie stanowych ustaw dotyczących AI. Firma oświadczyła, że nie uważa, by Kongres powinien wyprzedzać prawo stanowe, chyba że uchwali ustawę federalną co najmniej tak silną jak proponowane ramy. Wezwała do „chirurgicznego” stosowania prawa federalnego, pozwalającego stanom regulować kwestie bezpieczeństwa dzieci i ochrony konsumentów.
Zakłócenia gospodarcze i ochrona pracowników
Wraz z ramami bezpieczeństwa Anthropic opublikował Ramową Umowę Polityki Gospodarczej wspartą nowym finansowaniem w wysokości 350 mln USD. Dotyczy ona wypierania siły roboczej przez AI, dystrybucji kapitału i sieci bezpieczeństwa socjalnego. Amodei napisał, że AI może wywołać znacznie większe i trwalsze zakłócenia na rynku pracy niż poprzednie technologie.
Rozsądne jest myśleć, że AI może wywołać znacznie większe zakłócenia na rynku pracy niż poprzednie technologie i, potencjalnie, bardziej trwałe zakłócenia.
Propozycje gospodarcze obejmują lepsze dane dotyczące utraty miejsc pracy związanej z AI, ubezpieczenie płac, zachęty podatkowe na utrzymanie zatrudnienia oraz ewentualnie powszechny dochód podstawowy lub uniwersalne konta kapitałowe. Amodei zauważył również, że sprzeciw społeczny wobec budowy centrów danych jest w dużej mierze symbolem szerszych obaw gospodarczych związanych z AI.
Konsekwencje dla przedsiębiorstw
Propozycje sygnalizują potencjalną niestabilność łańcucha dostaw dla firm licencjonujących modele podstawowe. Długo oczekiwana aktualizacja modelu może napotkać regulacyjne embargo, jeśli stwarza poważne ryzyko biologiczne, cyberbezpieczeństwa lub autonomii. Ramy stanowią zapowiedź ograniczeń operacyjnych i regulacyjnych, które będą rządzić następną generacją technologii korporacyjnych.
Musimy teraz, globalnie i zbiorowo, uruchomić powolny i zgrzytający aparat polityczny, aby poradzić sobie z zagrożeniami i szansami, które będą narastać zaskakująco szybko od tego momentu.
