Dario Amodei wyjaśnia stanowisko Anthropic w sprawie modeli open-weight po krytyce branży

List otwarty i fala krytyki

24 lipca Jensen Huang, dyrektor generalny Nvidii, opublikował na platformie X list otwarty zatytułowany "Otwarte wagi i amerykańskie przywództwo w dziedzinie AI". Był to jego pierwszy wpis w tym serwisie. List, podpisany przez 25 firm, w tym Metę, Microsoft, Hugging Face, Mistral i Palantir, wzywał decydentów do powstrzymania się od nakładania szerokich, "przedwczesnych ograniczeń" na modele AI typu open-weight. W weekend do sygnatariuszy dołączyły m.in. OpenAI, Google, SpaceX, Amazon i Cohere, co sprawiło, że Anthropic pozostało jedynym dużym laboratorium AI, które nie złożyło podpisu.

Dolina Krzemowa zareagowała natychmiast. Inwestor venture capital David Sacks, były doradca ds. AI w administracji Trumpa, napisał na X, że "cała branża technologiczna (z wyjątkiem Anthropic) opowiedziała się za otwartym oprogramowaniem w AI". Bill Gurley, partner zarządzający w Benchmark, zasugerował, że niechęć Anthropic wynika z faktu, iż otwarte wagi konkurują "z ich korporacyjną strategią ekonomiczną". Kai-Fu Lee, założyciel chińskiego startupu 01.AI, stwierdził, że "to, kto NIE podpisał listu w sprawie otwartych wag, jest znacznie ciekawsze niż to, kto to zrobił".

Odpowiedź Amodei

W niedzielę Dario Amodei przerwał milczenie, publikując wpis na blogu. "Anthropic nigdy nie postulowało zakazu dla modeli open-weight" – napisał, dodając, że "modele open-weight, które nie posiadają niebezpiecznych zdolności, są dobrem publicznym". Podkreślił, że jego obawy dotyczące AI nie dotyczą firm korzystających z modeli open-weight, nawet tych chińskich, lecz autorytarnych rządów budujących modele potężniejsze od amerykańskich, aby osiągnąć "trwałą przewagę militarną" lub represjonować własnych obywateli. Zauważył, że Komunistyczna Partia Chin jest "najbardziej zdolnym" w tym zakresie rządem.

Amodei ostrzegł również, że modele open-weight stwarzają większe ryzyko w scenariuszach ataków biologicznych, ponieważ nie można w nich zastosować zabezpieczeń. Powołując się na raport brytyjskiego Instytutu Bezpieczeństwa AI, dodał, że po upublicznieniu wag nie można ich już wycofać.

Trzy środki zamiast zakazu

Zamiast zakazywać modeli open-weight, Amodei przedstawił trzy środki polityczne. Po pierwsze, egzekwowanie kontroli eksportu chipów i walka z "plagą przemytu" zaawansowanych układów do Chin, ponieważ bez amerykańskich chipów prawa skalowania uniemożliwiają Chinom trenowanie modeli potężniejszych od amerykańskich. Po drugie, powstrzymanie operacji destylacji na skalę przemysłową, które pozwalają chińskim laboratoriom budować wydajne modele znacznie taniej niż w przypadku trenowania od zera. Po trzecie, obowiązkowe testy bezpieczeństwa dla wszystkich wystarczająco zaawansowanych modeli, zarówno otwartych, jak i zamkniętych, niezależnie od kraju pochodzenia, z wyłączeniem mniej zaawansowanych modeli ze startupów i środowisk akademickich.

Oskarżenie o destylację

Kwestia destylacji ma wymiar komercyjny. Anthropic oskarżyło laboratorium Qwen należące do Alibaby o przeprowadzenie największej w historii kampanii destylacji modelu Claude, wykorzystującej 25 000 fałszywych kont do przeprowadzenia 29 milionów wymian. Amodei przyznał, że walka z destylacją jest "trudna", ponieważ konta często można zidentyfikować dopiero po wystąpieniu znacznej destylacji, i wezwał do interwencji politycznej zamiast polegania na egzekwowaniu zasad przez pojedynczą firmę.

Precedens Fable 5

Ostrożność Anthropic ma niedawny precedens. 12 czerwca, trzy dni po wprowadzeniu Fable 5 jako swojego najpotężniejszego publicznego modelu, rząd USA nakazał firmie zablokowanie dostępu do Fable 5 i Mythos 5 dla obcokrajowców. Egzekwowanie zasady narodowościowej w ramach współdzielonej usługi chmurowej było niepraktyczne, więc Anthropic całkowicie wyłączyło dostęp. Epizod ten podkreślił długo utrzymywany przez firmę pogląd, że twórcy tracą kontrolę nad modelem granicznym w momencie publikacji jego wag – stanowisko, które firma podtrzymuje poprzez programy z ograniczonym dostępem, takie jak Project Glasswing.