Anthropic veröffentlicht Claude Fable 5, eine eingeschränkte Version seines leistungsstarken Mythos-KI-Modells, unter Sicherheits- und Datenschutzbedenken

Anthropic hat Claude Fable 5 am 9. Juni auf den Markt gebracht und damit seine leistungsstärkste Klasse von KI-Modellen, Mythos, erstmals der Öffentlichkeit zugänglich gemacht – mit erheblichen Einschränkungen. Das Modell ist so konzipiert, dass es bei sensiblen Themen wie Cybersicherheit, Biologie und Chemie automatisch auf ein weniger leistungsfähiges Modell, Claude Opus 4.8, zurückstuft, um Missbrauch zu verhindern.

Ein zweigleisiger Sicherheitsmechanismus

Fable 5 arbeitet mit einem zweigleisigen System. Bei Standardanfragen nutzt es die vollen Fähigkeiten des neuen Modells. Wenn ein Benutzer eine Frage zu einem sensiblen Thema stellt, leitet das System die Anfrage an Opus 4.8 um, das eine geringere Leistung, aber als sicherer gilt. Laut Anthropic geschieht dies in etwa 5 % der Sitzungen, aber der Forscher Ethan Mollick, der frühzeitigen Zugang hatte, bemerkte, dass die Sicherheitsmechanismen „beim geringsten Anzeichen eines Sicherheitsproblems auslösen und dies viel zu häufig vorkommt.“

Die Sicherheitsmechanismen von Fable lösen beim geringsten Anzeichen eines Sicherheitsproblems aus, und das passiert viel zu oft.

Die Mythos-Familie und ihre Fähigkeiten

Die Mythos-Familie wurde erstmals im April vorgestellt und aufgrund ihrer Fähigkeit, Tausende kritischer Schwachstellen zu finden – darunter Fehler in allen wichtigen Betriebssystemen und Browsern – unter Verschluss gehalten. Auf ExploitBench, einem Benchmark zur Messung offensiver Cybersicherheitsfähigkeiten, erreicht Mythos 5 einen Wert von 78 %, verglichen mit 40 % für Opus 4.8 und 69 % für die frühere Mythos Preview. Neben Fable 5 hat Anthropic auch offiziell Claude Mythos 5 eingeführt, eine uneingeschränkte Variante für Regierungsbehörden und Betreiber kritischer Infrastrukturen, die nur einem begrenzten Kreis autorisierter Partner zur Verfügung steht.

Datenaufbewahrung löst Microsoft-Beschränkungen aus

Microsoft schränkt die Nutzung von Claude Fable 5 durch seine Mitarbeiter aufgrund neuer Anforderungen an die Datenaufbewahrung ein. Anders als andere Claude-Modelle, die unter den Regeln der Null-Datenaufbewahrung (Zero Data Retention) arbeiten, erfordert Fable 5, dass Anthropic Eingabeaufforderungen und Ausgaben für 30 Tage aufbewahrt, um seine Sicherheitsklassifikatoren betreiben zu können. Daten, die wegen Richtlinienverstößen markiert wurden, können bis zu zwei Jahre lang gespeichert werden. Die Rechtsabteilungen von Microsoft prüfen diese Änderungen, und das Modell ist im internen Modellauswahl-Tool für GitHub Copilot nicht verfügbar, obwohl es für externe Kunden bereits eingeführt wurde.

Europäische Regulierungsbehörden bewerten Zugang noch

Die Agentur der Europäischen Union für Cybersicherheit (ENISA) hat noch keinen Zugang zum Mythos-Modell erhalten, obwohl Anthropic der Europäischen Kommission ein entsprechendes Angebot am 31. Mai unterbreitet hat. Ein Sprecher erklärte, dass die Bedingungen für den Zugang noch ausgehandelt werden müssten; ein weiteres Treffen zwischen ENISA-Experten und Anthropic wird für nächste Woche erwartet. ENISA betonte, dass Mythos kein Einzelfall sei und eine neue Welle von Modellen auf den Markt komme.

Die ENISA befindet sich in Gesprächen mit anderen Front-Modellen. Die Priorität der ENISA liegt nun darin, die Zusammenarbeit mit Anthropic fortzusetzen, um die Bedingungen für den künftigen Zugang zu vereinbaren.

Kritik an Timing und Botschaft

Anthropic veröffentlichte am 4. Juni ein Dokument, das von Forschungsleiterin Marina Favaro und Politikchef Jack Clark unterzeichnet wurde und für die Möglichkeit plädiert, die Entwicklung von Front-KI zu verlangsamen oder vorübergehend auszusetzen. Fünf Tage später brachte das Unternehmen sein leistungsstärkstes öffentliches Modell auf den Markt. Kritiker, darunter die Linguistin Emily M. Bender von der University of Washington, beschreiben dieses Muster als eine Form der Werbung, bei der der Alarm als Bescheinigung der Leistungsfähigkeit fungiert.

KI-Untergangsrhetorik ist auch KI-Hype.

Preise und Leistung

Über die API für Unternehmenskunden kostet Fable 5 10 $ pro Million Input-Token und 50 $ pro Million Output-Token, was zwischen 67 % und 100 % teurer ist als OpenAIs GPT-5.5. Stripe berichtete, dass Fable 5 Monate Arbeit in Tage komprimiert habe und an einem einzigen Tag eine Migration von 50 Millionen Codezeilen durchgeführt habe – eine Operation, die normalerweise über zwei Monate Handarbeit erfordert.