Anthropic-CEO Dario Amodei stellt Position zu Open-Weight-KI nach Branchenkritik klar

Der offene Brief und die Gegenreaktion

Am 24. Juli veröffentlichte Nvidia-CEO Jensen Huang auf X einen offenen Brief mit dem Titel „Open Weights and American AI Leadership“, seinen ersten Beitrag auf der Plattform. Der Brief, der von 25 Unternehmen unterzeichnet wurde, darunter Meta, Microsoft, Hugging Face, Mistral und Palantir, forderte die politischen Entscheidungsträger auf, keine breiten „voreiligen Beschränkungen“ für Open-Weight-KI-Modelle zu verhängen. Am Wochenende fügten OpenAI, Google, SpaceX, Amazon, Cohere und andere ihre Namen hinzu, sodass Anthropic das einzige große KI-Labor war, das nicht unterzeichnet hatte.

Das Silicon Valley bemerkte es. Der Risikokapitalgeber David Sacks, ein ehemaliger KI-Berater der Trump-Administration, schrieb auf X, dass „die gesamte Tech-Branche (bis auf Anthropic) sich für Open-Source-KI ausgesprochen hat.“ Benchmark-Generalpartner Bill Gurley deutete an, dass die Zurückhaltung von Anthropic widerspiegele, dass offene Gewichte „mit ihrer unternehmerischen Wirtschaftsstrategie konkurrieren.“ Kai-Fu Lee, Gründer des chinesischen Startups 01.AI, postete, dass „wer den Open-Weight-Brief NICHT unterzeichnet hat, weitaus interessanter ist als wer ihn unterzeichnet hat.“

Amodeis Antwort

Am Sonntag veröffentlichte Dario Amodei einen Blogbeitrag, der das Schweigen brach. „Anthropic hat sich nie für ein Verbot von Open-Weight-Modellen ausgesprochen“, schrieb er und fügte hinzu, dass „Open-Weight-Modelle ohne gefährliche Fähigkeiten ein öffentliches Gut sind.“ Er sagte, seine Ängste vor KI erstreckten sich nicht auf Unternehmen, die Open-Weight-Modelle nutzen, selbst chinesische, sondern vielmehr auf autoritäre Regierungen, die Modelle bauen, die leistungsfähiger sind als die in den USA, um eine „dauerhafte militärische Überlegenheit“ zu erreichen oder ihr eigenes Volk zu unterdrücken. Die Kommunistische Partei Chinas, so stellte er fest, sei die „fähigste“ dieser Regierungen.

Amodei warnte auch davor, dass Open-Weight-Modelle ein größeres Risiko bei biologischen Angriffsszenarien darstellen, da keine Schutzmaßnahmen angewendet werden können, und dass, sobald Gewichte veröffentlicht sind, sie nicht mehr zurückgezogen werden können, wie ein Bericht des britischen KI-Sicherheitsinstituts zeigt.

Drei Maßnahmen statt eines Verbots

Anstatt Open-Weight-Modelle zu verbieten, skizzierte Amodei drei politische Maßnahmen. Erstens die Durchsetzung von Chip-Exportkontrollen und das Vorgehen gegen den „grassierenden Schmuggel“, der verwendet wird, um fortschrittliche Chips nach China zu bringen, da ohne US-Chips die Skalierungsgesetze China daran hindern, leistungsfähigere Modelle als amerikanische zu trainieren. Zweitens die Unterbindung von Destillationsoperationen im industriellen Maßstab, die es chinesischen Laboren ermöglichen, leistungsfähige Modelle weitaus billiger zu bauen als durch Training von Grund auf. Drittens obligatorische Sicherheitstests für alle ausreichend leistungsfähigen Modelle, offene und geschlossene, unabhängig vom Herkunftsland, wobei weniger leistungsfähige Modelle von Startups und der Wissenschaft ausgenommen sind.

Der Destillationsvorwurf

Der Destillationspunkt ist kommerziell aufgeladen. Anthropic beschuldigte das Qwen-Labor von Alibaba, die größte Destillationskampagne aller Zeiten gegen Claude durchgeführt zu haben, wobei 25.000 gefälschte Konten für 29 Millionen Austausche verwendet wurden. Amodei räumte ein, dass das Vorgehen gegen Destillation „herausfordernd“ sei, da Konten oft erst identifiziert werden können, nachdem eine erhebliche Destillation stattgefunden hat, und forderte politische Interventionen anstatt sich auf die Durchsetzung eines einzelnen Unternehmens zu verlassen.

Der Fable-5-Präzedenzfall

Die Vorsicht von Anthropic hat einen jüngsten Präzedenzfall. Am 12. Juni, drei Tage nachdem Fable 5 als sein leistungsfähigstes öffentliches Modell gestartet wurde, ordnete die US-Regierung an, dass das Unternehmen ausländische Staatsangehörige von Fable 5 und Mythos 5 ausschließen muss. Die Durchsetzung einer Nationalitätsregel in einem gemeinsam genutzten Cloud-Dienst war unpraktisch, also schaltete Anthropic den Zugang vollständig ab. Die Episode unterstrich die langjährige Ansicht des Unternehmens, dass Entwickler die Kontrolle über ein Grenzmodell verlieren, sobald seine Gewichte veröffentlicht sind, eine Position, die es durch zugangsbeschränkte Programme wie Project Glasswing aufrechterhalten hat.