Szef Pentagonu spotka się z szefem Anthropic ws. dostępu do AI Claude

Sekretarz obrony Stanów Zjednoczonych Pete Hegseth wezwał na bezpośrednie spotkanie dyrektora generalnego firmy Anthropic, Dario Amodei. Rozmowy odbędą się we wtorek w siedzibie Pentagonu i mają na celu przełamanie długotrwałego impasu w negocjacjach umownych. Spór dotyczy warunków, na jakich Departament Obrony mógłby wykorzystywać zaawansowany model sztucznej inteligencji Claude, opracowany przez Anthropic. Firma Anthropic została założona w 2021 roku przez Dario Amodei i grupę badaczy, którzy odeszli z OpenAI. Od początku deklarowała etyczne podejście do rozwoju AI, z silnym naciskiem na bezpieczeństwo i wbudowane ograniczenia. Jej flagowy model, Claude, konkuruje z produktami takich gigantów jak ChatGPT od OpenAI czy Gemini od Google. Główną osią sporu są tzw. guardrails, czyli wbudowane zabezpieczenia i ograniczenia technologiczne, które Anthropic nałożyło na swoją technologię. Firma odmawia ich całkowitego zniesienia na potrzeby wojska, co spotkało się z ostrym sprzeciwem Pentagonu. W odpowiedzi resort grozi oznaczeniem Anthropic jako ryzyka łańcucha dostaw. Jest to kategoria prawna i proceduralna, którą zazwyczaj stosuje się wobec firm z krajów uznawanych za przeciwników lub sojuszników przeciwników USA. Groźba taka podkreśla powagę konfliktu i determinację wojska w dążeniu do pełnego dostępu do technologii. Według doniesień Axios, Claude jest jedynym dostępnym modelem AI w tajnych, sklasyfikowanych systemach wojskowych i jest postrzegany jako najzdolniejszy do wykonywania wrażliwych zadań obronnych i wywiadowczych. Pentagon nie chce utracić dostępu do tego narzędzia, ale jednocześnie jest wściekły na opór firmy. „Claude is the only AI model available in the military's classified systems, and the most capable model for sensitive defense and intelligence work.” (Claude to jedyny model AI dostępny w sklasyfikowanych systemach wojskowych i najzdolniejszy model do wrażliwej pracy obronnej i wywiadowczej.) — Axios W tle sprawy znajduje się również sojusz ogłoszony w listopadzie 2024 roku między Anthropic a firmą Palantir Technologies. Partnerstwo miało umożliwić agencjom wywiadowczym i obronnym „uoperacjonalizowanie użycia Claude w platformie AI Palantir”. Obecny spór może zagrozić realizacji tej współpracy lub zmienić jej zakres. Spotkanie Amodei z Hegseth ma charakter ostatniej szansy na znalezienie kompromisu. Źródła wskazują, że strony wchodzą w nie „z zupełnie innych pozycji”. Wojsko naciska na pełną swobodę, podczas gdy firma stoi na stanowisku, że pewne etyczne i bezpieczeństwowe ograniczenia są nieusuwalną częścią jej produktu. Wynik tych negocjacji będzie miał znaczenie nie tylko dla tych dwóch podmiotów, ale także dla szerszych ram współpracy między sektorem obronnym a komercyjnym przemysłem AI, która balansuje między innowacją a odpowiedzialnością.