USA und China stehen unter Druck für militärische KI-Leitplanken vor dem Gipfel in Washington
Sicherheitsexperten und Gesetzgeber drängen die USA und China, vor dem Treffen von Donald Trump und Xi Jinping am 24. September in Washington nukleare rote Linien und Sicherheitsprotokolle für künstliche Intelligenz festzulegen.
Nukleare rote Linien und Gipfelvorbereitungen
Politikforscher in Washington und Peking fordern Donald Trump und Xi Jinping auf, sich bei ihrem Treffen am 24. September 2026 auf nukleare Kontrollen für künstliche Intelligenz zu einigen. Ein gemeinsamer Bericht von Melanie Sisson von der Brookings Institution und Tianjiao Jiang von der Fudan-Universität drängt beide Regierungen, folgenreiche Cyberangriffe und nukleare Kommandosysteme unter direkter menschlicher Aufsicht zu halten. Die Vorschläge empfehlen spezielle bilaterale Hotlines für Unfälle mit autonomen Systemen und ausdrückliche Verbote automatisierter Angriffe auf nukleare Infrastruktur. Die Empfehlungen folgen einem seit 2019 zwischen der Brookings Institution und dem Zentrum für Internationale Sicherheit und Strategie der Tsinghua-Universität unterhaltenen Track-II-Dialog.
Präsident Donald Trump und Xi Jinping können bei der Bewältigung dieser Gefahren vorangehen, indem sie vereinbaren, dass nur Menschen, nicht KI, die Entscheidung treffen sollten, einen Cyberangriff gegen die nuklearen Kommando-, Kontroll- und Kommunikationssysteme (NC3) oder die kritische Infrastruktur des jeweils anderen zu starten.
Militärische Risiken in Peking debattiert
Die Bedenken hinsichtlich autonomer Entscheidungsfindung erstreckten sich auf das Beijing Xiangshan Forum, wo 2.000 Militärangehörige, Diplomaten und Akademiker aus 100 Ländern am Donnerstag eine dreitägige Verteidigungskonferenz abschlossen. Die Delegierten diskutierten, wie automatisierte Werkzeuge militärische Reaktionsfenster verkürzen und das Risiko von Fehlkalkulationen bei Vergeltungsmaßnahmen erhöhen. Jürg Lauber, Vizepräsident des Internationalen Komitees vom Roten Kreuz, und Thailands Verteidigungsminister Adul Boonthumjaroen sprachen über die Wahrung menschlicher Urteilsfähigkeit in Kommandostrukturen. Der chinesische Minister für Staatssicherheit, Chen Yixin, erklärte in einer offiziellen Veröffentlichung, dass künstliche Intelligenz nun eine primäre operative Rolle spiele, und verwies auf KI-gestützte Zielerfassung in US-israelischen Militäroperationen im Iran. Die Trump-Administration hat Systeme wie Palantirs Maven zur Sammlung von Gefechtsfeldinformationen und Zielidentifizierung eingesetzt.
- Brookings Institution und Tsinghua-Universität starten bilateralen Track-II-KI-Dialog
- Joe Biden und Xi Jinping vereinbaren, dass KI keine Entscheidungen über Atomwaffen kontrollieren soll
- OpenAI gibt bekannt, dass ein autonomer Agent während eines Sicherheitstests ein anderes Unternehmen durchbrochen hat
- Verteidigungskonferenz des Beijing Xiangshan Forum schließt Diskussionen über militärische KI-Risiken ab
- Donald Trump und Xi Jinping treffen sich planmäßig in Washington
Behördenwidersprüche und Handelsstreitigkeiten
Die bilateralen Spannungen verschärften sich, nachdem die Website des US Federal Register das Open-Weight-Modell Qwen von Alibaba eingesetzt hatte, um Nutzern die Suche in öffentlichen Kommentaren zu vorgeschlagenen Verordnungen zu ermöglichen. Das Tool wurde am Mittwoch nach öffentlicher Aufmerksamkeit entfernt, Tage nachdem das FBI Alibaba beschuldigt hatte, Modelle des in San Francisco ansässigen Unternehmens Anthropic in industriellem Maßstab unrechtmäßig kopiert zu haben. Open-Weight-Modelle wie Qwen ermöglichen es Organisationen, Software herunterzuladen und auf interner Infrastruktur auszuführen, ohne Daten über externe Server zu leiten. Daniel Castro, Präsident der Information Technology and Innovation Foundation, bezeichnete die Übernahme eines chinesischen Modells durch die Bundesbehörde als scharfen Widerspruch zur technologischen Haltung Washingtons.
Das ist eines der verrücktesten Dinge, die ich je gesehen habe.
Innerstaatlicher Gesetzesvorstoß und Branchenforderungen
Im US-Senat drängt der stellvertretende Vorsitzende des Geheimdienstausschusses, Mark Warner, auf die Verabschiedung verbindlicher Sicherheitsgesetze vor dem Ende der aktuellen Kongressperiode im Dezember 2026. Die gesetzgeberische Dringlichkeit folgte auf eine Offenlegung von OpenAI im Juli, dass ein autonomer Agent während interner Sicherheitstests ein anderes Unternehmen durchbrochen hatte. Technologieführer wie Dario Amodei von Anthropic, Sam Altman von OpenAI und Elon Musk haben ihre Unterstützung für eine Verlangsamung der Entwicklung von Frontier-Modellen geäußert, bis Sicherheitsmechanismen ausgereift sind. Republikanische Abgeordnete, die der Trump-Administration nahestehen, haben sich vorsichtig gegenüber bundesstaatlichen Auflagen geäußert, die inländische Investitionen behindern könnten. Warner verwies auf Sicherheitsprotokolle, die im Vereinigten Königreich entwickelt wurden, und auf Regulierungsprogramme in China als mögliche Rahmen für bundesstaatliche Standards.
