KI & Tech · Genf

UN-Chef warnt: KI entwickelt sich schneller, als Regeln Schritt halten können – und fordert globale Steuerung

António Guterres erklärte beim ersten UN-Weltdialog zur KI-Governance in Genf, dass künstliche Intelligenz der Regulierung davonläuft, und forderte harmonisierte globale Regeln zum Schutz von Kindern und zur Verhinderung einer „Vibe-Code“-Zukunft.

KI-Text auf Grundlage von Berichten von RTE.ie, RFI, RTP und weiteren Medien. Veröffentlicht . So entsteht er

Für MitgliederDie ersten 30 Sekunden zum Probehören. Synthetische Stimme (KI).

Kurz gefasst

Genf · Schweiz
Wie es dazu kam
  1. 1.07.Das wissenschaftliche Gremium der UN veröffentlicht einen vorläufigen Bericht, der warnt, dass KI-Fähigkeiten die Governance überholen.
  2. 6.07.Erster UN-Weltdialog zur KI-Governance in Genf eröffnet; Guterres spricht eine Warnung aus.
  3. 7.07.Dialog wird fortgesetzt; Delegierte diskutieren Regeln und Risikominderung.
  4. 2027Umfassender Bericht und zweites globales Treffen in New York geplant.

Eröffnungswarnung

Guterres eröffnete den zweitägigen Dialog am 6. Juli mit einer deutlichen Einschätzung: KI-Systeme entwickeln sich rasant, schneller als die Institutionen, die sie kontrollieren sollen. „Eine Technologie, die Volkswirtschaften umgestalten, die Arbeitswelt verändern, Wahlen beeinflussen und das Sicherheitsgefüge kippen kann, wird schneller eingesetzt, als irgendjemand – einschließlich der Entwickler – Schritt halten kann“, sagte er. Er stellte die Wahl als eine „zwischen Steuerung durch Gestaltung und Abdriften durch Standardeinstellungen“ dar.

Das „Vibe-Coding“-Risiko und Kinder

Er hob „Vibe-Coding“ – die Praxis, KI Code aus einfachen Sprachbefehlen schreiben zu lassen – als Symbol für den Verlust menschlicher Kontrolle hervor. „Vibe-Coding kann Wunder bewirken, aber wir können die Zukunft der Menschheit nicht vibe-coden“, sagte er. Guterres schlug eine globale Verpflichtung zur Kindersicherheit vor: verpflichtende Sicherheitstests, bevor KI für Kinder zugänglich ist, ein Verbot von KI-generierten sexuellen Darstellungen Minderjähriger und die Zusicherung, dass Kinder in Not an menschliche Hilfe verwiesen werden. „Wir lassen ein Medikament nicht zu einem Kind gelangen, bevor es als sicher erwiesen ist; wir testen jedes Spielzeug. Doch KI hat unsere Kinder erreicht“, sagte er.

Der wissenschaftliche Bericht

Die Delegierten prüfen einen vorläufigen Bericht des unabhängigen internationalen wissenschaftlichen KI-Panels der UN, der am 1. Juli veröffentlicht wurde. Das 40-köpfige Expertengremium kam zu dem Schluss, dass KI-Fähigkeiten schneller zunehmen, als Regierungen sie verstehen, testen oder regulieren können. Guterres fasste die Botschaft zusammen: „Die Welt kann nicht steuern, was sie nicht versteht.“ Ein umfassenderer Bericht ist für nächstes Jahr geplant, zusammen mit einem zweiten globalen Treffen in New York.

Flickenteppich der Regulierung

Der Dialog trifft auf eine zersplitterte Regulierungslandschaft. Das EU-KI-Gesetz ist einer der wenigen verbindlichen Rahmenwerke, die in Kraft sind, auch wenn die Umsetzung variiert. China hat Maßnahmen ergriffen, um menschenähnliche KI-Agenten einzuschränken. Die Vereinigten Staaten haben noch keine dauerhaften Bundesregeln erlassen. Guterres warnte, dass die meisten Länder „kein Mitspracherecht bei Entscheidungen hatten, die ihre Zukunft prägen werden“, und dass die Macht in einer Handvoll Unternehmen und Nationen konzentriert sei.

Nächste Schritte

Das Genfer Treffen ist keine Vertragsverhandlung, sondern ein Forum zur Abstimmung von Ansätzen. Guterres forderte die Regierungen auf, „nicht zu warten“, und rief zu gemeinsamen Risikobewertungsmethoden, gemeinsam vereinbarten Standards und vier Prioritäten auf: Sicherheit, Menschenrechte, Kapazitätsaufbau in Entwicklungsländern und Transparenz. Der Dialog dauert bis zum 7. Juli an.

Fragen zu diesem Text

Quellen und Kontext

Pollar ist kostenlos und ohne Werbung im Text. Getragen wird es von seinen Mitgliedern.

Pollar unterstützen