KI & Tech · Genf
UN-Chef warnt: KI entwickelt sich schneller, als Regeln Schritt halten können – und fordert globale Steuerung
António Guterres erklärte beim ersten UN-Weltdialog zur KI-Governance in Genf, dass künstliche Intelligenz der Regulierung davonläuft, und forderte harmonisierte globale Regeln zum Schutz von Kindern und zur Verhinderung einer „Vibe-Code“-Zukunft.
KI-Text auf Grundlage von Berichten von RTE.ie, RFI, RTP und weiteren Medien. Veröffentlicht . So entsteht er
Für MitgliederDie ersten 30 Sekunden zum Probehören. Synthetische Stimme (KI).
Kurz gefasst
Guterres warnte, dass KI sich schneller entwickelt, als irgendjemand Schritt halten kann, und forderte global harmonisierte Regeln zur Risikominderung.
Er forderte verpflichtende Sicherheitstests, bevor Kinder Zugang zu KI erhalten, ein Verbot von KI-generierten sexuellen Darstellungen Minderjähriger und menschliche Hilfe für Kinder in Not.
Ein von der UN unterstützter Bericht von 40 Experten besagt, dass KI-Fähigkeiten das wissenschaftliche Verständnis übertreffen, das für ihre Regulierung nötig ist.
Das EU-KI-Gesetz ist eines der wenigen verbindlichen Rahmenwerke; China schränkt menschenähnliche Agenten ein; den USA fehlen dauerhafte Bundesregeln.
- 1.07.Das wissenschaftliche Gremium der UN veröffentlicht einen vorläufigen Bericht, der warnt, dass KI-Fähigkeiten die Governance überholen.
- 6.07.Erster UN-Weltdialog zur KI-Governance in Genf eröffnet; Guterres spricht eine Warnung aus.
- 7.07.Dialog wird fortgesetzt; Delegierte diskutieren Regeln und Risikominderung.
- 2027Umfassender Bericht und zweites globales Treffen in New York geplant.
Eröffnungswarnung
Guterres eröffnete den zweitägigen Dialog am 6. Juli mit einer deutlichen Einschätzung: KI-Systeme entwickeln sich rasant, schneller als die Institutionen, die sie kontrollieren sollen. „Eine Technologie, die Volkswirtschaften umgestalten, die Arbeitswelt verändern, Wahlen beeinflussen und das Sicherheitsgefüge kippen kann, wird schneller eingesetzt, als irgendjemand – einschließlich der Entwickler – Schritt halten kann“, sagte er. Er stellte die Wahl als eine „zwischen Steuerung durch Gestaltung und Abdriften durch Standardeinstellungen“ dar.
Das „Vibe-Coding“-Risiko und Kinder
Er hob „Vibe-Coding“ – die Praxis, KI Code aus einfachen Sprachbefehlen schreiben zu lassen – als Symbol für den Verlust menschlicher Kontrolle hervor. „Vibe-Coding kann Wunder bewirken, aber wir können die Zukunft der Menschheit nicht vibe-coden“, sagte er. Guterres schlug eine globale Verpflichtung zur Kindersicherheit vor: verpflichtende Sicherheitstests, bevor KI für Kinder zugänglich ist, ein Verbot von KI-generierten sexuellen Darstellungen Minderjähriger und die Zusicherung, dass Kinder in Not an menschliche Hilfe verwiesen werden. „Wir lassen ein Medikament nicht zu einem Kind gelangen, bevor es als sicher erwiesen ist; wir testen jedes Spielzeug. Doch KI hat unsere Kinder erreicht“, sagte er.
Der wissenschaftliche Bericht
Die Delegierten prüfen einen vorläufigen Bericht des unabhängigen internationalen wissenschaftlichen KI-Panels der UN, der am 1. Juli veröffentlicht wurde. Das 40-köpfige Expertengremium kam zu dem Schluss, dass KI-Fähigkeiten schneller zunehmen, als Regierungen sie verstehen, testen oder regulieren können. Guterres fasste die Botschaft zusammen: „Die Welt kann nicht steuern, was sie nicht versteht.“ Ein umfassenderer Bericht ist für nächstes Jahr geplant, zusammen mit einem zweiten globalen Treffen in New York.
Flickenteppich der Regulierung
Der Dialog trifft auf eine zersplitterte Regulierungslandschaft. Das EU-KI-Gesetz ist einer der wenigen verbindlichen Rahmenwerke, die in Kraft sind, auch wenn die Umsetzung variiert. China hat Maßnahmen ergriffen, um menschenähnliche KI-Agenten einzuschränken. Die Vereinigten Staaten haben noch keine dauerhaften Bundesregeln erlassen. Guterres warnte, dass die meisten Länder „kein Mitspracherecht bei Entscheidungen hatten, die ihre Zukunft prägen werden“, und dass die Macht in einer Handvoll Unternehmen und Nationen konzentriert sei.
Nächste Schritte
Das Genfer Treffen ist keine Vertragsverhandlung, sondern ein Forum zur Abstimmung von Ansätzen. Guterres forderte die Regierungen auf, „nicht zu warten“, und rief zu gemeinsamen Risikobewertungsmethoden, gemeinsam vereinbarten Standards und vier Prioritäten auf: Sicherheit, Menschenrechte, Kapazitätsaufbau in Entwicklungsländern und Transparenz. Der Dialog dauert bis zum 7. Juli an.
Fragen zu diesem Text
Quellen und Kontext
- RTE.ieNo child should be 'guinea pig' for unregulated AI - UN
- RFIEl jefe de la ONU llama a gobernar la IA para no improvisar "el futuro de la humanidad"
- RTP - Rádio Televisão PortuguesaGuterres alerta para necessidade de regras globais para IA
- SudOuest.frIntelligence artificielle : le chef de l'ONU appelle à une gouvernance mondiale pour protéger " l'avenir de l'humanité "
- António Guterres
- Generalsekretär der Vereinten Nationen
- Orte
- Genf, New York City
Pollar ist kostenlos und ohne Werbung im Text. Getragen wird es von seinen Mitgliedern.
Pollar unterstützen