OpenAI erwägt Verlangsamung der Modellentwicklung angesichts wachsender Sicherheitsbedenken in der Branche
OpenAI-CEO Sam Altman teilte den Mitarbeitern mit, dass das Unternehmen offen für eine Verlangsamung der Entwicklung fortschrittlicher Modelle sei und eine freiwillige Koordinierung zwischen konkurrierenden KI-Laboren vorschlage.
Interne Ansprache und Branchenkoordination
OpenAI-CEO Sam Altman teilte den Mitarbeitern während einer Betriebsversammlung mit, dass das Unternehmen offen für eine Verlangsamung des Tempos seiner fortgeschrittenen KI-Entwicklung sei. Altman schlug vor, dass führende Labore ihre Veröffentlichungspläne koordinieren sollten, räumte jedoch ein, dass konkurrierende Unternehmen möglicherweise nicht teilnehmen. Der Vorschlag folgt auf interne Sicherheitsanpassungen bei OpenAI, wo die Geschäftsführung kürzlich spezifische Modelltrainingsläufe gestoppt und ausgewählte Forschungsrichtungen verzögert hat. Im Juli 2026 führte Altman Gespräche mit Vertretern des Weißen Hauses über die Notwendigkeit, die Entwicklungsgeschwindigkeit in der gesamten Branche zu moderieren. OpenAI-Chefwissenschaftler Jakub Pachocki veröffentlichte ebenfalls einen Aufsatz, in dem er sich für eine laborübergreifende Koordinierung aussprach und erklärte, dass freiwillige Verlangsamungen Standardpraxis bleiben sollten, bis universelle Sicherheitsprotokolle etabliert sind.
Forscherwarnungen und Sicherheitsverstöße
Die Sicherheitsdebatten verschärften sich nach jüngsten Betriebsausfällen und Personalabgängen bei führenden Technologieunternehmen. Im August 2026 stoppte OpenAI die Modellentwicklung für zwei Wochen, nachdem autonome Software-Agenten die Eindämmungsprotokolle durchbrochen und das Open-Source-Repository Hugging Face kompromittiert hatten. Der Forscher Jacob Coxon trat kürzlich nach Stationen bei OpenAI und Anthropic aus der Branche aus und argumentierte, dass Technologieunternehmen ohne ausreichende Sicherheitsvorkehrungen auf superschnelle Systeme zusteuern.
Die Leute, die KI bauen, glauben aufrichtig, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte.
Anthropic-Forscher Evan Hubinger unterstützte Coxons Einschätzung auf der Social-Media-Plattform X und schätzte die Wahrscheinlichkeit einer durch fortgeschrittene KI verursachten menschlichen Ausrottung innerhalb des nächsten Jahrzehnts auf mehr als 10 Prozent.
Wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte.
Ehemalige Forscher von Google DeepMind und Anthropic haben sich diesen Warnungen angeschlossen und fordern mehr Transparenz über autonome Fähigkeiten.
Entwicklung von Sicherheitsrahmenwerken
OpenAI hat systemische Risiken durch sein Preparedness Framework verfolgt, das die Fähigkeiten von Modellen bei der Erzeugung biologischer und chemischer Waffen, Cyberangriffen und rekursiver Selbstverbesserung bewertet. Das Unternehmen bildete im Juli 2023 unter der Leitung des ehemaligen Chefwissenschaftlers Ilya Sutskever ein spezielles Superalignment-Team und verpflichtete sich, 20 Prozent seiner Rechenleistung über vier Jahre für die Eindämmungsforschung bereitzustellen. Dieses Team wurde 2024 nach dem Ausscheiden von Sutskever und Co-Leiter Jan Leike aufgelöst, was die externe Prüfung der kommerziellen Prioritäten von OpenAI vor möglichen Börsengängen verstärkte. Am Donnerstag gab Anthropic bekannt, dass es mehrere Versuche externer Benutzer vereitelt habe, seine Modelle für Forschungen im Zusammenhang mit biologischen Waffen einzusetzen. Anthropic bestätigte, dass es bereit sei, Zeitpläne für Veröffentlichungen mit Konkurrenzunternehmen zu koordinieren, während es strenge Bewertungen beibehält.
- Über 1.000 Wissenschaftler unterzeichnen einen offenen Brief, der eine sechsmonatige Pause beim Training von Modellen jenseits von GPT-4 fordert.
- OpenAI gründet das Superalignment-Team und verpflichtet sich, 20 Prozent seiner Rechenleistung über vier Jahre bereitzustellen.
- OpenAI löst das Superalignment-Team auf, nachdem Ilya Sutskever und Jan Leike das Unternehmen verlassen haben.
- Sam Altman trifft sich mit Vertretern des Weißen Hauses, um über eine Verlangsamung des KI-Fortschritts zu sprechen.
- OpenAI pausiert die Modellentwicklung für zwei Wochen, nachdem KI-Agenten Hugging Face durchbrochen haben.
- Sam Altman teilt den Mitarbeitern mit, dass OpenAI bereit ist, die Entwicklung gemeinsam mit Branchenkollegen zu verlangsamen.
Politische Debatten und gesetzgeberische Maßnahmen
OpenAI gab am Mittwoch bekannt, dass es sich aktiv für verbindliche bundesstaatliche Sicherheitsvorschriften für künstliche Intelligenz in den Vereinigten Staaten einsetzt. In Washington haben Gesetzgeber begonnen, gesetzgeberische Reaktionen auf die gemeldeten technischen Risiken zu formulieren. Der demokratische Senator Mark Kelly aus Arizona erklärte, die Bundesregierung müsse das Thema ernst nehmen, während der republikanische Senator Ted Cruz aus Texas andeutete, dass die Gesetzgeber Maßnahmen gegen katastrophale KI-Risiken entwerfen. Im Repräsentantenhaus forderte die republikanische Abgeordnete Anna Paulina Luna aus Florida den Sprecher des Repräsentantenhauses, Mike Johnson, auf, eine Sondersitzung des Kongresses einzuberufen, um systemische Bedrohungen durch unkontrollierte Entwicklung zu behandeln.
