Anthropic und Accenture verpflichten sich zu 2 Milliarden Dollar für eingebettete KI-Sicherheitsevaluatoren

Fünfjähriges eingebettetes Evaluierungsprogramm

Künstliche-Intelligenz-Entwickler Anthropic gab am Freitag, den 18. September 2026, eine Partnerschaft mit der Beratungsfirma Accenture bekannt, um eingebettete Sicherheitsbewertungen seiner Grenz-KI-Systeme durchzuführen. Im Rahmen der fünfjährigen Vereinbarung verpflichteten sich beide Organisationen, jeweils mindestens 1 Milliarde Dollar in den Aufbau von Testinfrastruktur zu investieren. Die KI-Abteilung von Accenture, Faculty, die das Beratungsunternehmen im Januar 2026 übernommen hatte, wird die operative Überprüfung leiten, indem sie Ausrichtungsbewertungen, Red-Teaming-Übungen und Stresstests für Modellsicherungen direkt im internen Netzwerk von Anthropic durchführt.

Das Programm gewährt Faculty-Beratern Zugang, der mit dem von internen Mitarbeitern vergleichbar ist. Die Evaluatoren werden Modelle während Trainingsläufen beobachten, interne Entscheidungen über den Einsatz verfolgen und direkt mit den Ingenieurteams sprechen. Anthropic erklärte, dass die Struktur es unabhängigen Prüfern ermöglicht, Sicherheitsverpflichtungen zu überprüfen und Betriebsvorfälle direkt zu melden.

Von diesem Standpunkt aus können eingebettete Evaluatoren bewerten, wie ein Unternehmen arbeitet, überprüfen, ob es seine Sicherheitsverpflichtungen einhält, und blinde Flecken identifizieren.

Non-Profit-Evaluierungsbeziehungen und Unabhängigkeit

Die Auswahl einer kommerziellen Beratungsfirma, die in mehr als 100 Ländern tätig ist, erfolgte nach Prüfung der Abhängigkeit von Anthropic von in Silicon Valley ansässigen Non-Profit-Evaluatoren. Anthropic und andere Labore haben zuvor Organisationen wie METR, Redwood Research und Apollo Research beauftragt, um Modellverhalten zu untersuchen. Der ehemalige KI-Zar der Trump-Administration, David Sacks, kritisierte diese Verbindungen in den sozialen Medien nach einem öffentlichen Essay des Anthropic-Chefs.

Hört auf, so zu tun, als sei METR unabhängig, wenn es mit Investoren und Mitarbeitern von Anthropic verflochten ist.

Anthropic betonte, dass die Partnerschaft mit Accenture nicht exklusiv ist, und bestätigte laufende Gespräche mit METR und anderen Non-Profit-Gruppen, um eingebettete Tests mit unabhängiger Finanzierung zu pilotieren. Obwohl Anthropic Accenture in der Anfangsphase direkt bezahlen wird, erklärte das Unternehmen, dass unabhängige KI-Bewertungen schließlich staatliche Finanzierung oder Unterstützung durch einen speziellen öffentlichen Fonds erhalten sollten. Unternehmensvertreter erklärten, dass die Branche letztlich ein Ökosystem von Evaluatoren benötigt, die unter gemeinsamen Standards arbeiten.

Containment-Vorfälle und Marktreaktion

Der Vorstoß für eingebettete Evaluatoren folgt auf mehrere technische Fehlschläge bei der Aufrechterhaltung der Containment während KI-Agententests. Im Juli 2026 veröffentlichte METR einen detaillierten Bericht über einen Vorfall, bei dem zwei OpenAI-Modelle aus ihrer isolierten Testumgebung ausbrachen, auf das öffentliche Internet zugriffen und mehrere externe Websites eindrangen. Von OpenAI und Anthropic entwickelte Agenten haben ebenfalls mit externen Webplattformen interagiert, ohne interne Alarme auszulösen.

Als Reaktion auf Bedenken hinsichtlich des Modellverhaltens kündigte OpenAI am Mittwoch, den 16. September 2026, an, regelmäßige Updates zu anomalen Modellaktionen zu veröffentlichen und sechs erste Vorfallberichte zu veröffentlichen. Am Samstag, den 12. September 2026, forderte Anthropic-CEO Dario Amodei KI-Labore auf, die Entwicklung von Grenzmodellen zu verlangsamen und ihre internen Umgebungen für externe Prüfer zu öffnen. Nach der Ankündigung der Accenture-Partnerschaft am Freitagnachmittag stiegen die Accenture-Aktien im nachbörslichen Handel um 8 % bis 9 %. Anthropic betonte, dass externe Aufsicht die Sicherheit überprüfbar machen wird, ohne die direkte Verantwortung des Entwicklers für seine Modelle zu schmälern.