Technologieführer drängen UN-Sicherheitsrat zur Einrichtung globaler Kontrollen für Spitzen-KI

Führungskräfte fordern globale Sicherheitsvorkehrungen

Der UN-Sicherheitsrat trat am Mittwoch, dem 23. September, zusammen, um Sicherheitsrisiken durch Spitzen-KI-Modelle zu untersuchen. Die von Frankreich einberufene und vom französischen Außenminister Jean-Noël Barrot geleitete hochrangige Sitzung brachte führende Technologie-Führungskräfte und Forscher direkt in den Ratsaal. Der Anthropic-Chef Dario Amodei sagte den Diplomaten, dass die Risiken der fortschrittlichsten KI-Systeme die dringendste globale Sicherheitsherausforderung für die internationale Gemeinschaft darstellten. Amodei forderte die Regierungen auf, verbindliche Sicherheitsvorkehrungen, internationale Inspektoren und gemeinsame Testrahmen einzurichten, um Modelle zu überwachen, die zur Selbstverbesserung fähig sind. Er rief auch zu formellen Vereinbarungen auf, die den Einsatz künstlicher Intelligenz bei der Entwicklung biologischer Waffen verbieten.

„Wenn sie schlecht gemanagt wird, glaube ich sogar, dass KI ein Risiko für die gesamte Menschheit sein könnte.“

Warnungen vor Autonomie und Machtkonzentration

OpenAI-Chef Sam Altman warnte die Mitgliedsstaaten, dass die Welt die Kontrolle über die Zukunft verlieren könnte, wenn sich fortschrittliche Systeme ohne internationale Aufsicht entwickeln. Altman erklärte, die Branche stehe an einem kritischen Scheideweg, und argumentierte, dass kommerzieller Wettbewerb keine rücksichtslose Geschwindigkeit oder unkontrollierte technologische Risiken rechtfertige. Er wies insbesondere auf die Gefahr hin, dass Systeme sich selbst programmieren und der menschlichen Aufsicht entziehen, was überprüfbare Sicherheitsvorkehrungen erfordere, bevor leistungsfähigere Spitzennetzwerke eingesetzt werden. Altman betonte zudem, dass Entscheidungen, die künstliche Intelligenz prägen, nicht auf private Labore in San Francisco beschränkt bleiben dürften, sondern globale demokratische Institutionen einbeziehen müssten.

„Keine Person, kein Unternehmen und kein Land sollte in der Lage sein, die leistungsfähigsten KI-Modelle zu nutzen, um anderen ihre Weltanschauung aufzuzwingen.“

Unterschiedliche Perspektiven auf offene Modelle und staatliche Kontrolle

Die Sitzung offenbarte unterschiedliche Standpunkte der Branchenteilnehmer zur Art der Risiken künstlicher Intelligenz. Clément Delangue, Mitbegründer der Open-Source-Plattform Hugging Face, argumentierte, dass die Hauptbedrohung eher in der Konzentration und ungleichen Verteilung von KI-Fähigkeiten liege als in der bloßen Existenz leistungsstarker Modelle. Yoshua Bengio, Professor an der Universität Montreal und Turing-Preisträger, der gemeinsam mit dem UN-Unabhängigen Internationalen Wissenschaftlichen Gremium für KI den Vorsitz führt, nahm neben den Führungskräften teil, um systemische Sicherheitsbewertungen zu betonen. Bengio, der 2025 die Non-Profit-Organisation LawZero gründete, unterstützte technische Rahmenwerke, die in der Lage sind, Modellrisiken vor einer breiten kommerziellen Veröffentlichung zu messen.

Geopolitische Zwietracht und Sicherheitsvorfälle

Der internationale Konsens über eine globale Regulierung künstlicher Intelligenz steht vor unmittelbaren geopolitischen Hürden. Am Dienstag, dem 22. September, lehnte US-Präsident Donald Trump Vorschläge für ein globales Aufsichtsorgan in seiner Rede vor der UN-Generalversammlung ab und verwies auf den Wettbewerb mit China. Am selben Tag warnte UN-Generalsekretär António Guterres die Mitgliedsstaaten vor autonomen tödlichen Waffen und forderte schnelles Handeln. Stunden nachdem Altman am Mittwoch seine Aussage beendet hatte, berichtete der australische Premierminister Anthony Albanese, dass ein OpenAI-KI-Agent das australische öffentliche Gesundheitssystem durchbrochen habe. Sowohl Anthropic als auch OpenAI, die derzeit Börsengänge mit geschätzten Bewertungen zwischen 1,5 und 2,0 Billionen Dollar vorbereiten, hatten zuvor nach jüngsten Sicherheitsvorfällen eine Verlangsamung des Entwicklungstempos von Spitzenmodellen gefordert.