Anthropic fordert globale Pause bei der Entwicklung fortschrittlicher KI – wegen Risiken rekursiver Selbstverbesserung
Das US-amerikanische KI-Unternehmen Anthropic hat einen globalen Koordinierungsmechanismus vorgeschlagen, um die Entwicklung von Front-KI-Systemen zu verlangsamen oder auszusetzen. Es argumentiert, dass die Gesellschaft Zeit brauche, um sich an das rasante Tempo der Technologie anzupassen.
Der Vorschlag
Anthropic, der in San Francisco ansässige Entwickler des Chatbots Claude, hat am Donnerstag, dem 4. Juni, über seinen Thinktank Anthropic Institute ein Papier veröffentlicht, das eine weltweite Verlangsamung oder vorübergehende Aussetzung der Entwicklung fortschrittlicher KI fordert. Das Unternehmen argumentiert, eine solche Pause würde es gesellschaftlichen Strukturen und der Alignment-Forschung ermöglichen, mit dem technologischen Fortschritt Schritt zu halten.
Wir glauben, dass es für die Welt gut wäre, die Fähigkeit zu haben, die Entwicklung von Spitzen-KI zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Alignment-Forschung mit dem Fortschritt der Technologie Schritt halten können.
Das Unternehmen betonte, dass jede Pause global koordiniert werden müsse. Wenn ein einzelnes Unternehmen einseitig die Arbeit einstellte, würden die Wettbewerber es einfach überholen. Anthropic nannte OpenAI, Google und Chinas DeepSeek als seine schärfsten Rivalen.
Das Risiko der rekursiven Selbstverbesserung
Anthropic begründete seinen Vorschlag mit der Veröffentlichung interner Daten, die die Möglichkeit veranschaulichen, eines Tages eine „rekursive Selbstverbesserung“ zu erreichen – den Punkt, an dem KI-Systeme in der Lage sind, ihre eigenen Nachfolger zu trainieren und den menschlichen Einfluss zu verringern. Die Gefahr, so das Unternehmen, könne daraus entstehen, dass diese Selbsterzeugung außer Kontrolle gerate oder von den Interessen der Menschheit abweiche.
„Wenn die derzeitigen Trends anhalten“, schrieb das Unternehmen, werde ein solches Szenario „plausibel“, fügte jedoch hinzu, dass es keine Garantie gebe, dass es unmittelbar bevorstehe.
Ein Atomwaffenvertrag als Vorbild
Um seinen Standpunkt zu untermauern, verwies Anthropic auf das Beispiel des Vertrags über nukleare Mittelstreckensysteme (INF-Vertrag). Es stellte fest, dass dieses Rahmenwerk Jahrzehnte brauchte, um etabliert zu werden, aber dass die Zeit bei KI drängender sei, die es als „weitaus leichter zu verbergen als Raketensilos“ beschrieb.
Ohne einen globalen Koordinierungsmechanismus werden Unternehmen und Regierungen schwierige Sicherheitsentscheidungen treffen müssen, unter dem Druck von Wettbewerb und geopolitischen Interessen.
Politischer und rechtlicher Gegenwind
Es wird erwartet, dass der Vorschlag in den Vereinigten Staaten auf starken Widerstand stoßen wird, wo viele Beamte und Technologieführer jede Verlangsamung ablehnen, die China einen entscheidenden Vorteil verschaffen könnte. Donald Trump erklärte jedoch, er habe während eines kürzlichen Besuchs in Peking die Möglichkeit einer Zusammenarbeit mit China in der KI-Sicherheit erörtert.
Anthropic befindet sich derzeit in einem Rechtsstreit mit dem US-Verteidigungsministerium über die uneingeschränkte militärische Nutzung seiner Technologie, die das Unternehmen verweigert hat. Das Pentagon stufte Anthropic daraufhin als „Risiko für die Sicherheit der Lieferkette“ ein, eine Einstufung, die das Unternehmen vor Gericht anficht. Das Unternehmen hat auch die Veröffentlichung seines fortschrittlichsten Modells Mythos eingeschränkt, um Cybersicherheits-Patches zu implementieren. Am Montag reichte Anthropic seinen Börsengang ein.
Branchenskeptiker
Anthropic, gegründet von Dissidenten von OpenAI, hat sich das Image eines auf Ethik und Sicherheit ausgerichteten Labors aufgebaut. Es sieht sich Kritik von Branchenvertretern und Beamten des Weißen Hauses ausgesetzt, die ihm vorwerfen, Risiken zu übertreiben; einige bezeichnen seinen Ansatz als „Angst-Marketing“-Strategie im Rennen mit OpenAI um den Börsengang.
