König Charles mahnt Tech-Führungskräfte zur Wahrung menschlicher Kontrolle auf KI-Gipfel
König Charles III. wird am Donnerstag Führungskräfte von Nvidia, Google DeepMind, OpenAI und Anthropic auf Dumfries House in Schottland zu privaten Gesprächen über den Umgang mit den Risiken autonomer Systeme empfangen.
Königliche Einladung nach Dumfries House
König Charles III. wird am Donnerstag führende Technologie-Führungskräfte, Regierungsminister und Politikberater auf Dumfries House in Ayrshire, Schottland, versammeln, um sich mit der Sicherheit künstlicher Intelligenz zu befassen. Die private Zusammenkunft bringt rund 30 Branchenführer unter der gemeinsamen Koordination der King's Foundation, des King's Trust, der Sustainable Markets Initiative und der Ditchley Foundation zusammen. Obwohl der britische Monarch nicht direkt an den nichtöffentlichen Arbeitssitzungen teilnehmen wird, wird er eine Eröffnungsrede halten, um den Gipfel zu eröffnen, bevor die Diskussionen beginnen. Der Buckingham-Palast bestätigte, dass der Gipfel untersuchen soll, ob gemeinsame Grundsätze den Einsatz fortschrittlicher Computersysteme leiten können, um die menschliche Würde und die natürliche Umwelt zu schützen. Die Arbeitssitzungen werden bis zum späten Nachmittag auf dem schottischen Anwesen aus dem 18. Jahrhundert dauern, wobei sich die Organisatoren auf kooperative Sicherheitsrahmen konzentrieren, anstatt auf formelle gesetzgeberische Verträge.
Der Appell des Königs an Tech-Führungskräfte
In seiner Eröffnungsrede wird König Charles die rasante Entwicklung der künstlichen Intelligenz als gleichermaßen faszinierend und zutiefst besorgniserregend beschreiben. Der britische Monarch wird Technologieunternehmen auffordern, klare öffentliche Zusicherungen zu geben, dass die Menschheit nicht die Kontrolle über ihre Zukunft an autonome Softwaresysteme abgeben wird.
Die Aufgabe vor Ihnen besteht nicht nur darin, Technologie voranzutreiben, sondern sicherzustellen, dass sie fest im Dienst der Menschheit, der Gemeinschaft und der natürlichen Welt bleibt.
König Charles wird den Delegierten sagen, dass diejenigen, die die wesentliche moralische Komponente der Menschheit schätzen, ängstlich nach Garantien für die Richtung des technologischen Fortschritts suchen. Er wird auch betonen, dass Entscheidungen, die in dieser prägenden Zeit getroffen werden, die Bedingungen bestimmen, die künftige Generationen erben werden. Palastbeamte erklärten, der Monarch beabsichtige, die internationale Zusammenarbeit zu fördern, damit die Sicherheit zentral bleibt und keine Nation zurückgelassen wird, wenn neue Fähigkeiten entwickelt werden.
Teilnahme aus dem Silicon Valley und der Regierung
Die Gästeliste auf Dumfries House umfasst Führungskräfte der weltweit bedeutendsten Entwickler künstlicher Intelligenz und Halbleiterhersteller. Zu den Teilnehmern gehören Nvidia-Gründer und CEO Jensen Huang, Google DeepMind-Mitbegründer Demis Hassabis, Scale AI-CEO Francis deSouza und OpenAI-Finanzvorstand Sarah Friar. Auch politische und institutionelle Vertreter werden teilnehmen, darunter der britische KI-Minister Kanishka Narayan, der Vatikan-Berater Paolo Benanti und ein offizieller Vertreter Chinas. Die Liste umfasst ferner IonQ-CEO Niccolò de Masi sowie Delegierte von Anthropic und Cohere. Die Diskussionen stützen sich auf einen vor dem Gipfel von der Ditchley Foundation vorbereiteten Entwurf einer Charta, um die privaten Debatten zu strukturieren.
- Die Ditchley Foundation bereitet einen Entwurf einer Charta vor, um die privaten Diskussionen unter rund 30 Teilnehmern zu leiten.
- König Charles III. eröffnet den Gipfel auf Dumfries House mit einer Rede, die menschenzentrierte Technologie-Schutzmaßnahmen fordert.
- Tech-Führungskräfte und Regierungsvertreter führen private Gespräche über ethische Standards und internationale Koordination.
- Die Arbeitssitzungen auf dem Anwesen in Ayrshire enden ohne verbindliche regulatorische Vereinbarungen.
Konkurrierende Visionen zu Regulierung und Risiko
Die schottische Zusammenkunft findet statt, während Technologie-Führungskräfte scharfe Meinungsverschiedenheiten darüber äußern, wie schnell sich künstliche Intelligenz entwickeln sollte. Anthropic-CEO Dario Amodei und OpenAI-CEO Sam Altman haben Forderungen nach einer koordinierten Verlangsamung der Branche unterstützt, während Anthropic-Mitbegründer Jack Clark vorgeschlagen hat, dass ein obligatorischer Kill-Schalter durch Dritte erforderlich sein könnte. Auch interne Beunruhigung ist öffentlich geworden, nachdem der ehemalige Anthropic-Forscher Jacob Coxon zurückgetreten ist und erklärt hat, dass die Mitarbeiter Angst vor der Geschwindigkeit des Fortschritts hätten, nachdem zwei Forscher gewarnt hatten, dass unkontrollierte Systeme zur Auslöschung der Menschheit führen könnten. In der Zwischenzeit warnte Microsoft-KI-CEO Mustafa Suleyman, dass eine unkontrollierte Entwicklung eine konkurrierende Silizium-Spezies hervorbringen könnte, und xAI-Eigentümer Elon Musk stellte einen überwältigenden Konsens für Regulierung fest. Im Gegensatz dazu hat sich Nvidia-CEO Jensen Huang gegen neue Gesetze ausgesprochen und behauptet, dass einzelne Unternehmen das alleinige Ermessen darüber behalten sollten, ob sie neue Technologien freigeben.
