UN-Chef warnt: KI entwickelt sich schneller, als Regeln Schritt halten können – und fordert globale Steuerung
António Guterres erklärte beim ersten UN-Weltdialog zur KI-Governance in Genf, dass künstliche Intelligenz der Regulierung davonläuft, und forderte harmonisierte globale Regeln zum Schutz von Kindern und zur Verhinderung einer „Vibe-Code“-Zukunft.
Eröffnungswarnung
Guterres eröffnete den zweitägigen Dialog am 6. Juli mit einer deutlichen Einschätzung: KI-Systeme entwickeln sich rasant, schneller als die Institutionen, die sie kontrollieren sollen. „Eine Technologie, die Volkswirtschaften umgestalten, die Arbeitswelt verändern, Wahlen beeinflussen und das Sicherheitsgefüge kippen kann, wird schneller eingesetzt, als irgendjemand – einschließlich der Entwickler – Schritt halten kann“, sagte er. Er stellte die Wahl als eine „zwischen Steuerung durch Gestaltung und Abdriften durch Standardeinstellungen“ dar.
Das „Vibe-Coding“-Risiko und Kinder
Er hob „Vibe-Coding“ – die Praxis, KI Code aus einfachen Sprachbefehlen schreiben zu lassen – als Symbol für den Verlust menschlicher Kontrolle hervor. „Vibe-Coding kann Wunder bewirken, aber wir können die Zukunft der Menschheit nicht vibe-coden“, sagte er. Guterres schlug eine globale Verpflichtung zur Kindersicherheit vor: verpflichtende Sicherheitstests, bevor KI für Kinder zugänglich ist, ein Verbot von KI-generierten sexuellen Darstellungen Minderjähriger und die Zusicherung, dass Kinder in Not an menschliche Hilfe verwiesen werden. „Wir lassen ein Medikament nicht zu einem Kind gelangen, bevor es als sicher erwiesen ist; wir testen jedes Spielzeug. Doch KI hat unsere Kinder erreicht“, sagte er.
Der wissenschaftliche Bericht
Die Delegierten prüfen einen vorläufigen Bericht des unabhängigen internationalen wissenschaftlichen KI-Panels der UN, der am 1. Juli veröffentlicht wurde. Das 40-köpfige Expertengremium kam zu dem Schluss, dass KI-Fähigkeiten schneller zunehmen, als Regierungen sie verstehen, testen oder regulieren können. Guterres fasste die Botschaft zusammen: „Die Welt kann nicht steuern, was sie nicht versteht.“ Ein umfassenderer Bericht ist für nächstes Jahr geplant, zusammen mit einem zweiten globalen Treffen in New York.
Flickenteppich der Regulierung
Der Dialog trifft auf eine zersplitterte Regulierungslandschaft. Das EU-KI-Gesetz ist einer der wenigen verbindlichen Rahmenwerke, die in Kraft sind, auch wenn die Umsetzung variiert. China hat Maßnahmen ergriffen, um menschenähnliche KI-Agenten einzuschränken. Die Vereinigten Staaten haben noch keine dauerhaften Bundesregeln erlassen. Guterres warnte, dass die meisten Länder „kein Mitspracherecht bei Entscheidungen hatten, die ihre Zukunft prägen werden“, und dass die Macht in einer Handvoll Unternehmen und Nationen konzentriert sei.
- Das wissenschaftliche Gremium der UN veröffentlicht einen vorläufigen Bericht, der warnt, dass KI-Fähigkeiten die Governance überholen.
- Erster UN-Weltdialog zur KI-Governance in Genf eröffnet; Guterres spricht eine Warnung aus.
- Dialog wird fortgesetzt; Delegierte diskutieren Regeln und Risikominderung.
- Umfassender Bericht und zweites globales Treffen in New York geplant.
Nächste Schritte
Das Genfer Treffen ist keine Vertragsverhandlung, sondern ein Forum zur Abstimmung von Ansätzen. Guterres forderte die Regierungen auf, „nicht zu warten“, und rief zu gemeinsamen Risikobewertungsmethoden, gemeinsam vereinbarten Standards und vier Prioritäten auf: Sicherheit, Menschenrechte, Kapazitätsaufbau in Entwicklungsländern und Transparenz. Der Dialog dauert bis zum 7. Juli an.
