Anthropic-CEO Dario Amodei schlägt Drei-Phasen-Plan zur Verlangsamung der KI-Entwicklung vor

Exponentielles Wachstum und Netzwerkrisiken

Anthropic-CEO Dario Amodei warnte, dass künstliche Intelligenz exponentiell voranschreitet und der Technologiesektor sofortige Sicherheitsvorkehrungen treffen muss. Ohne bewusste Verlangsamung, so Amodei, könnten autonome Agentenschwärme innerhalb von 6 bis 12 Monaten oder etwa 180 Tagen die Kontrolle über die Internetinfrastruktur erlangen. Ein solches Szenario könnte Schäden in Höhe von Hunderten von Milliarden Dollar in Computernetzwerken verursachen, wobei auf Schwachstellen verwiesen wird, die während des früheren OpenAI-Hugging-Face-Vorfalls aufgetreten sind. In einem Interview-Vorbericht für CBS News Sunday Morning verglich Amodei die Entwicklung der KI-Fähigkeiten mit einer Folge schneller Verdopplungen von eins auf zwei, vier, acht, 16 und 32. Er betonte, dass Entwickler zwar nicht in Panik geraten oder sofort alle Arbeiten einfrieren sollten, die steilere Kurve jedoch als dringende Alarmglocke dient.

Ich glaube nicht, dass ich vollständig verstanden habe, was ein so schneller Fortschritt wirklich bedeutet.

Drei Phasen für regulierte Entwicklung

Um die Geschwindigkeit der Veröffentlichungen von Frontier-Modellen zu steuern, veröffentlichte Amodei einen Aufsatz, der einen strukturierten Drei-Phasen-Plan für Entwickler und politische Entscheidungsträger vorschlägt. Die erste Phase konzentriert sich auf eingebettete Evaluatoren, bei denen sich Anthropic einseitig verpflichtet, unabhängigen externen Evaluatoren kontinuierlichen Zugang zu Tests und Verifizierungen von Systemen zu gewähren. Das Unternehmen forderte die Regierungen außerdem auf, gesetzlich vorzuschreiben, dass alle Frontier-KI-Labore denselben Evaluatorenzugang übernehmen. Die zweite Phase fordert eine demokratische Koordinierung im privaten Sektor, bei der KI-Unternehmen gemeinsame Sicherheitsgrundlagen festlegen und durchsetzen müssen. Die dritte Phase erweitert das Regime auf eine globale Koordinierung zwischen den nationalen Regierungen, um eine internationale Gleichstellung der Grenzsicherheitsregeln zu erreichen.

Wettbewerbsfähigkeit und Sicherheitszeit bewahren

Amodei argumentierte, dass die Drosselung von Fähigkeitsfortschritten den Forschern entscheidende Zeit verschafft, um Alignment-Herausforderungen zu lösen, bevor Modelle gefährliche Schwellenwerte erreichen. Ein zusätzliches Jahr oder zwei würde die systemischen Risiken erheblich reduzieren, ohne die kommerzielle Lebensfähigkeit von KI-Unternehmen zu beeinträchtigen. Er betonte, dass eine koordinierte Schrittmacherstrategie es den Entwicklern ermöglicht, notwendige Risikoprävention durchzuführen, während die Führungsrolle der Vereinigten Staaten in der Grenztechnologie erhalten bleibt. Amodei merkte an, dass frühere Bemühungen, Sicherheit durch bloße Investitionen in Schutzmaßnahmen zu gewährleisten, nicht mehr ausreichen, wenn man die Geschwindigkeit der Fähigkeitsverbesserungen nicht kontrolliert.

Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern. Der Fortschritt wird sich immer noch schnell anfühlen, und wir müssen die gewonnene Zeit weise nutzen.

Branchenreaktion und Governance-Debatte

Der Vorschlag erhielt schnell öffentliche Unterstützung von anderen prominenten Technologiepersönlichkeiten, darunter SpaceX-Leader Elon Musk und OpenAI-CEO Sam Altman. Anthropic stellte fest, dass seine früheren Warnungen und politischen Bemühungen von Branchenkritikern Beschuldigungen des Sensationalismus, übermäßigen Pessimismus und regulatorischer Gefangennahme eingebracht hatten. Amodei betonte, dass künstliche Intelligenz als nützlicher technologischer Durchbruch in Bereichen wie dem Gesundheitswesen wirken kann, argumentierte jedoch, dass ihre enorme Macht eine proaktive Governance erfordert. Das Unternehmen setzt seine Phase-1-Verpflichtungen zur externen Evaluierung fort und fordert Wettbewerber und internationale Regulierungsbehörden auf, koordinierte Schrittmachermechanismen zu implementieren.