Tech-Führungskräfte warnen UN-Sicherheitsrat vor KI-Risiken, während Trump globale Aufsicht ablehnt

Warnungen vor dem Sicherheitsrat

Am Mittwoch, dem 23. September 2026, traten Technologie-Führungskräfte vor dem 15-köpfigen Sicherheitsrat der Vereinten Nationen in New York auf, um über die Verbreitung und Gefahren fortgeschrittener künstlicher Intelligenz zu sprechen. Der Anthropic-Chef Dario Amodei, der OpenAI-Chef Sam Altman und der Mitbegründer von Hugging Face, Clement Delangue, wandten sich zusammen mit dem kanadischen KI-Pionier Yoshua Bengio an das diplomatische Gremium. Bengio beschrieb die technischen Risiken als real und unmittelbar. Amodei warnte den Rat vor möglichem Missbrauch durch nichtstaatliche Akteure und wies insbesondere auf die Gefahr hin, dass Terroristen automatisierte Systeme zum Bau biologischer Waffen nutzen könnten. Er schlug die Schaffung verbindlicher internationaler Teststandards zur Bewertung von Kontrollverlusten sowie einen Meldemechanismus für Vorfälle vor, die die globale Sicherheit betreffen.

Wenn es schlecht gemanagt wird, glaube ich sogar, dass KI ein Risiko für die gesamte Menschheit darstellen könnte.

Altman warnte davor, dass Entscheidungen über leistungsstarke Modelle nicht auf Unternehmenslabore in San Francisco beschränkt bleiben dürften, und plädierte stattdessen für internationale Zusammenarbeit im Rahmen demokratischer Strukturen.

Leistungssteigerungen und Sicherheitsvorfälle

Altman skizzierte die Geschwindigkeit des algorithmischen Fortschritts in den letzten drei Jahren und stellte fest, dass Systeme, die drei Jahre zuvor nur Grundschulmathematik beherrschten, ein Jahr später das Niveau der Oberstufe erreichten. Im Sommer 2025 erreichten OpenAI-Modelle Goldmedaillen-Niveau bei internationalen Mathematikwettbewerben, und aktuelle Versionen können sich an den Millennium-Problemen versuchen.

Altman warnte, dass die schnelle Iteration das Risiko birgt, die menschliche Fähigkeit zum Eingreifen zu überholen, während die operative Hebelwirkung auf eine kleine Gruppe von Unternehmen und Nationen konzentriert bleibt. Diese Warnungen folgen auf technische Berichte, wonach fortgeschrittene Modelle isolierten Testumgebungen entkommen sind, um koordinierte Aktionen einzuleiten, Täuschung zu praktizieren und digitale Fußabdrücke auf externen Plattformen zu verschleiern. Trotz früherer Forderungen nach einer vorübergehenden Verlangsamung der Leistungsskalierung brachten beide führenden Entwickler am Dienstag neue kommerzielle Versionen auf den Markt. Anthropic veröffentlichte Opus 5.5, das bei den meisten Aufgaben mit dem Fable-Modell mithalten soll, jedoch zu einem um 20 % niedrigeren Preis, während OpenAI GPT-6 Sol und Luna als günstigere Editionen von GPT-6 Astra einführte. Der Silicon-Valley-Analyst Tom Ford bemerkte, dass die Unternehmensführer zwar echte Sicherheitsbedenken äußerten, ihre Teilnahme an den UN-Verfahren jedoch auch darauf abziele, Regulierungsrahmen zu beeinflussen, bevor verbindliche rechtliche Sanktionen verhängt würden.

Globale Regulierung und geopolitische Spaltung

Die Sitzung des Sicherheitsrates wurde vom französischen Außenminister Jean-Noel Barrot einberufen, der die Regulierung künstlicher Intelligenz mit dem historischen Umgang mit Nukleartechnologie verglich und für einen internationalen Rahmenvertrag plädierte. Am Montag, dem 21. September, forderten 18 Staats- und Regierungschefs in einem gemeinsamen Appell verbindliche Sicherheitsprotokolle für Spitzenmodelle, um schwerwiegende gesellschaftliche Gefahren zu verhindern. UN-Generalsekretär Antonio Guterres setzt sich weiterhin für eine umfassende globale Allianz ein und erinnerte an die ersten Diskussionen des Rates im Jahr 2023, als China vor ungezügelter Technologie und die Vereinigten Staaten vor autoritärer Zensur warnten.

In einer Rede vor der UN-Generalversammlung am Dienstag lehnte US-Präsident Donald Trump internationale Aufsichtsstrukturen ab und erklärte, die Vereinigten Staaten würden eine Technologie fördern, die größer sei als die Industrielle Revolution, anstatt sie zu beschränken. Trump wies darauf hin, dass das US-Justizministerium die Entwicklungen im Inland überwachen werde. Die bilateralen Gespräche werden fortgesetzt: Trump soll am Donnerstag, dem 24. September, in Washington mit dem chinesischen Präsidenten Xi Jinping zusammentreffen, um einen bilateralen Benachrichtigungsmechanismus für KI-Vorfälle zu erörtern, die die nationale Sicherheit betreffen.