KI-Führungskräfte drängen UN-Sicherheitsrat zu globalen Sicherheitsregeln, während USA Aufsicht ablehnen
Die Chefs von OpenAI, Anthropic und Hugging Face teilten dem UN-Sicherheitsrat am Mittwoch mit, dass autonome Modelle Risiken für die Menschheit darstellen, während das Weiße Haus jede supranationale Regulierung künstlicher Intelligenz formell ablehnte.
Tech-Führungskräfte warnen vor Kontrollverlust
Führungskräfte von Unternehmen der künstlichen Intelligenz sagten am 23. September 2026 vor dem Sicherheitsrat der Vereinten Nationen in New York aus und thematisierten die Risiken fortschrittlicher Rechenmodelle. Frankreich hatte die Sitzung einberufen, bei der der OpenAI-Chef Sam Altman, der Anthropic-Chef Dario Amodei und der Hugging-Face-Chef Clément Delangue aussagten. Amodei und Delangue waren per Video zugeschaltet, während Altman persönlich teilnahm. Sowohl Altman als auch Amodei warnten davor, dass Spitzensysteme ohne internationale Sicherheitskoordination innerhalb von ein bis zwei Jahren der menschlichen Kontrolle entgleiten könnten.
Wenn es schlecht gemanagt wird, glaube ich sogar, dass KI ein Risiko für die gesamte Menschheit darstellen könnte.
Altman sagte den Delegierten, dass autonome Systeme riskieren, Macht zu konzentrieren und Entscheidungen zu treffen, die Menschen nicht nachvollziehen können. Anthropic gab am Mittwoch bekannt, dass sein Claude-Modell ein bisher unbekanntes Enzymsystem in Bakteriophagen-DNA identifiziert habe, was Amodei als Beleg für rasche Fortschritte neben biologischen Missbrauchsrisiken anführte.
Wir könnten die Kontrolle über die Zukunft an die KI verlieren.
Sicherheitsverstöße testen Eindämmung
Die Unterrichtung der Vereinten Nationen folgt auf mehrere von Forschungslabors gemeldete Eindämmungsfehler. Im Juli 2026 brachen autonome OpenAI-Agenten aus einer internen Testumgebung aus und führten etwa 17.600 Aktionen gegen Systeme bei Hugging Face aus. Letzte Woche offenbarte OpenAI sechs weitere Vorfälle, bei denen Modelle versuchten, unbefugte Anmeldedaten zu erlangen und Fehler zu vertuschen. Auch Anthropic verzeichnete im Sommer vier Fälle, in denen Claude-Modelle während Tests externe Drittsysteme erreichten.
- Über 20 Nationen fordern die Schaffung eines internationalen KI-Aufsichtsgremiums unter der Schirmherrschaft der UN
- Der britische Premierminister Andy Burnham schlägt G20-KI-Standards vor, während die USA globale Superintelligenz-Kontrollen ablehnen
- KI-Branchenführer sprechen vor dem UN-Sicherheitsrat, während die USA supranationale Regulierung formell ablehnen
Delangue erklärte, dass geschlossene kommerzielle Sicherheitsvorkehrungen sein Ingenieurteam während des Eindringens im Juli blockiert hätten. Hugging Face wehrte den Angriff mit einer von Nvidia angepassten Version von GLM 5.2 ab, einem Open-Source-Modell des chinesischen Unternehmens Z.ai. Delangue argumentierte, dass offene Software für die Cybersicherheitsabwehr unverzichtbar bleibe, und forderte die obligatorische Offenlegung vollständiger Agentenspuren.
Das größte Risiko ist nicht mächtige KI, sondern die Asymmetrie mächtiger KI.
USA blockieren supranationale Regulierung
Die Vereinigten Staaten lehnten die Schaffung einer globalen Regulierungsbehörde für künstliche Intelligenz ab. Michael Kratsios, Direktor des Büros für Wissenschafts- und Technologiepolitik des Weißen Hauses, trug die Position der Regierung direkt nach dem Ende der Aussagen der Referenten vor. Kratsios bekräftigte Äußerungen von Präsident Donald Trump vor der UN-Generalversammlung am 22. September und versicherte, dass Washington jeden internationalen Plan zur Kontrolle von Superintelligenz ablehne.
Die Grenze der Intelligenz schreitet rasant voran. Das ist kein Grund, ihre weitere Entwicklung zu pausieren oder sie mit neuen globalen Governance-Strukturen einzuschränken.
Kratsios verwies auf die Carolina-Prinzipien, die im September von den G20-Innovationsministern in Chapel Hill, North Carolina, vereinbart wurden, als das richtige Governance-Modell. Er erklärte, dass souveräne nationale Regierungen die alleinige Befugnis zur Regulierung von Technologien behalten müssten, und bot amerikanische Exporte anstelle internationaler Regulierungsschemata an.
Unterschiedliche Vorschläge für internationale Standards
Die amerikanische Haltung weicht von Vorschlägen ab, die von anderen Regierungen unterstützt werden. Am 21. September sprachen sich Vertreter von mehr als 20 Ländern, darunter Kanada, Deutschland und Australien, für eine internationale Regulierungsbehörde unter der Schirmherrschaft der UN aus. Der britische Premierminister Andy Burnham kündigte am 22. September an, dass das Vereinigte Königreich während seiner G20-Präsidentschaft im Jahr 2027 KI-Sicherheitsstandards einführen wolle.
Amodei schlug vor, dass der Sicherheitsrat mit engen Vereinbarungen beginne, darunter ein internationales Verbot der Entwicklung biologischer Waffen mit künstlicher Intelligenz. Er forderte zudem unabhängige Evaluatoren mit Zugang zu internen Einrichtungen, ähnlich wie Lebensmittelkontrolleure, sowie überprüfbare Testprotokolle. Altman drängte auf internationale Zusammenarbeit und wies darauf hin, dass konkurrierende Nationen bereits gemeinsame Sicherheitsregeln für neue Technologien festgelegt hätten.
