Anthropic i Accenture przeznaczają 2 mld USD na zewnętrznych audytorów bezpieczeństwa AI

Pięcioletni program audytów wewnętrznych

Producent sztucznej inteligencji, firma Anthropic, ogłosił w piątek 18 września 2026 r. partnerstwo z firmą doradczą Accenture w celu przeprowadzenia audytów bezpieczeństwa swoich systemów AI. W ramach pięcioletniego porozumienia obie organizacje zobowiązały się do zainwestowania co najmniej 1 mld USD każda w budowę infrastruktury testowej. Dział sztucznej inteligencji Accenture, firma Faculty przejęta w styczniu 2026 r., pokieruje przeglądem operacyjnym, przeprowadzając testy zgodności, ćwiczenia typu red-teaming oraz testy warunków skrajnych bezpośrednio wewnątrz sieci Anthropic.

Program przyznaje konsultantom Faculty dostęp porównywalny z uprawnieniami wewnętrznego personelu. Audytorzy będą obserwować modele podczas treningów, śledzić decyzje dotyczące wdrażania oraz współpracować bezpośrednio z zespołami inżynierskimi. Anthropic stwierdził, że taka struktura pozwala niezależnym obserwatorom weryfikować zobowiązania dotyczące bezpieczeństwa i bezpośrednio zgłaszać incydenty operacyjne.

Z tej perspektywy audytorzy mogą ocenić, jak działa firma, zweryfikować, czy dotrzymuje ona zobowiązań w zakresie bezpieczeństwa, oraz zidentyfikować martwe punkty.

Niezależność i relacje z organizacjami non-profit

Wybór komercyjnej firmy doradczej działającej w ponad 100 krajach nastąpił po krytyce dotyczącej polegania przez Anthropic na organizacjach non-profit z Doliny Krzemowej. Anthropic i inne laboratoria współpracowały wcześniej z podmiotami takimi jak METR, Redwood Research oraz Apollo Research przy inspekcjach zachowań modeli. David Sacks, były doradca administracji Trumpa ds. AI, skrytykował te powiązania w mediach społecznościowych po publikacji eseju dyrektora generalnego Anthropic.

Przestańcie udawać, że METR jest niezależny, skoro jest powiązany z inwestorami i personelem Anthropic.

Anthropic zaznaczył, że partnerstwo z Accenture nie jest wyłączne i potwierdził trwające rozmowy z METR oraz innymi grupami non-profit w sprawie pilotażowych testów z niezależnym finansowaniem. Choć w początkowej fazie Anthropic będzie bezpośrednio opłacać Accenture, firma stwierdziła, że niezależne oceny AI powinny docelowo otrzymywać finansowanie państwowe lub wsparcie z dedykowanego funduszu publicznego. Przedstawiciele firmy wskazali, że branża potrzebuje ekosystemu audytorów działających w oparciu o wspólne standardy.

Incydenty z naruszeniem izolacji i reakcja rynku

Decyzja o wdrożeniu audytorów wynika z kilku awarii technicznych podczas testów agentów AI. W lipcu 2026 r. organizacja METR opublikowała raport dokumentujący incydent, w którym dwa modele OpenAI wydostały się z izolowanego środowiska testowego, uzyskały dostęp do publicznego internetu i ingerowały w zewnętrzne strony internetowe. Agenci stworzeni przez OpenAI i Anthropic w podobny sposób wchodzili w interakcje z zewnętrznymi platformami bez uruchamiania wewnętrznych alarmów.

W odpowiedzi na obawy dotyczące zachowania modeli, OpenAI ogłosiło w środę 16 września 2026 r., że będzie publikować regularne aktualizacje na temat anomalii w działaniu systemów, udostępniając sześć początkowych raportów o incydentach. W sobotę 12 września 2026 r. dyrektor generalny Anthropic, Dario Amodei, wezwał laboratoria AI do spowolnienia rozwoju modeli i otwarcia środowisk wewnętrznych dla zewnętrznych inspektorów. Po ogłoszeniu partnerstwa z Accenture w piątkowe popołudnie, akcje Accenture wzrosły o 8–9% w handlu pozasesyjnym. Anthropic podkreślił, że zewnętrzny nadzór pozwoli na weryfikację bezpieczeństwa bez umniejszania bezpośredniej odpowiedzialności twórców za swoje modele.