Anthropic vereitelt fünf Versuche, Claude KI für Biowaffen und Raketenentwicklung zu nutzen

Interventionen in der biologischen Forschung

Anthropic veröffentlichte am Donnerstag seinen vierten Bedrohungsanalysebericht, der illegale Versuche beschreibt, seine Claude-KI-Assistenten in den letzten acht Monaten auszunutzen. Das fast 150-seitige Dokument dokumentierte fünf separate Vorfälle, bei denen ausländische Forscher die Modelle nutzten, um Studien zu hochriskanten Krankheitserregern durchzuführen, die die Entwicklung von Biowaffen unterstützen könnten. Unternehmensvertreter erklärten, dass die biologische Forschung eine Dual-Use-Herausforderung darstelle, da die zur Entwicklung von Impfstoffen verwendeten Rechenmethoden gleichzeitig dazu beitragen könnten, Krankheitserreger gefährlicher zu machen. Da böswillige Absichten durch scheinbar legitime wissenschaftliche Anfragen verschleiert werden können, griff das Unternehmen ein und beendete den Zugang in allen fünf Fällen. Anthropic wies darauf hin, dass Tests nicht vollständig vorhersagen können, wie sich Fähigkeiten außerhalb kontrollierter Umgebungen auswirken.

Während Bewertungen nützlich sind, weil sie Belege für Fähigkeiten liefern, können sie nicht konkret nachweisen, dass diese Fähigkeit jemals zur Entwicklung biologischer Waffen in der realen Welt genutzt würde.

Erregerstudien und Toxin-Neugestaltungen

Der Bericht dokumentierte fünf spezifische biologische Untersuchungen, die Sicherheitssperren auslösten. In einem Fall versuchten Forscher, die mit einem militärischen Forschungsinstitut verbunden sind, Förderanträge zu entwerfen, um die Übertragbarkeit und Immunflucht des Chikungunya-Virus durch wiederholte Tierinfektionen zu erhöhen. Ein anderer Forscher versuchte, das hochpathogene H5-Vogelgrippevirus für die luftgetragene Übertragung bei Säugetieren anzupassen, aber automatische Filter zwangen den Benutzer zu weniger leistungsfähigen Modellen und administrativen Aufgaben. Ein weiterer Benutzer nutzte das Opus-5-Modell, um innerhalb einer Stunde einen vollständigen Förderantrag zu entwerfen, um Immunfluchtgene in Orthopockenviren, der Familie, die Pocken und Mpox umfasst, zu identifizieren und zu löschen. Staatsnahe Forscher versuchten auch, tödliche Peptidgifte mit lähmenden Eigenschaften zu kartieren und bakteriell Toxine und Hämorrhagische-Fieber-Virusproteine computergestützt neu zu gestalten, während sie die Identität der Erreger verschleierten. Der Leiter der Bedrohungsanalyse, Jacob Klein, beschrieb die Komplexität der Identifizierung dieser Versuche.

Man sieht nicht jemanden auf eine Comicbuch-Art sagen: 'Hey, ich will eine Biowaffe bauen, um alle zu töten.' Es ist eine unglaublich nuancierte Situation.

Konventionelle Waffen und geopolitische Operationen

Über biologische Risiken hinaus beschrieb der Bericht Versuche, Claude für die Entwicklung konventioneller Waffen, Cyberangriffe und staatlich unterstützte Einflusskampagnen zu nutzen. Im Nordjemen suchten mit militanten Gruppen verbundene Akteure Unterstützung bei der Entwicklung von drei Waffensystemen, darunter eine gelenkte Rakete mit einem Mobiltelefonchip als Flugcomputer und zwei Raketenvarianten mit Reichweiten von bis zu 2.000 Kilometern. Russische Staatsmedien nutzten Claude, um betrügerische Propaganda zu generieren, die als unabhängige Berichterstattung getarnt war, darunter erfundene Geschichten über Wahlen in Moldawien. Darüber hinaus nutzten staatsnahe Gruppen in China und Iran die KI-Modelle zur Überwachung und Verfolgung von Dissidenten und Diasporagemeinschaften im Ausland.

Umgehungstaktiken und Plattformverteidigung

Die identifizierten Aktivitäten fanden größtenteils in Rechtsräumen statt, in denen Anthropic keine kommerziellen Dienste anbietet, wie China, Russland, Iran und Jemen. Illegale Akteure umgingen geografische Beschränkungen durch die Nutzung von virtuellen privaten Netzwerken, betrügerischen oder gestohlenen Konten und Drittanbieter-Online-Brokerdiensten. Die Mehrheit der dokumentierten Aktivitäten betraf ältere KI-Modelle, während neuere Modelle strengere automatische Sicherheitsvorkehrungen gegen gefährliche Eingabeaufforderungen aufweisen. Anthropic meldete alle unterbrochenen Aktivitäten den zuständigen Regierungsbehörden und Industriepartnern und aktualisierte gleichzeitig die Sicherheitsfilter in seinen Opus-, Sonnet- und Haiku-Modellfamilien. Klein erklärte, dass die öffentliche Offenlegung darauf abziele, die aktuellen Fähigkeiten zu veranschaulichen, anstatt Alarm zu schlagen.

Wir versuchen hier nicht, übertrieben zu sein. Wir wollen der Welt einfach zeigen: Wofür die Technologie heute tatsächlich missbraucht werden kann.