Soll die Öffentlichkeit KI-Risiken akzeptieren, damit Technik in Menschenhand bleibt?

OpenAI-Chef Sam Altman argumentiert, dass mächtige künstliche Intelligenz der Öffentlichkeit breit zugänglich bleiben müsse, und erklärt: Wir glauben, dass die Welt akzeptieren sollte, dass einige schlimme Dinge passieren, für die Vorteile dieser Technologie und dafür, dass Menschen Handlungsmacht haben.

Altman wies Vorschläge zurück, fortgeschrittene Systeme auf ein einziges Forschungslabor in San Francisco zu beschränken, während Gesetzgeber in Washington parteiübergreifende Vorschläge prüfen, die externe Sicherheitsprüfer für führende KI-Firmen vorschreiben würden.

Sicherheitsforscher warnen jedoch, die Branche gehe viel zu leichtsinnig vor; der frühere Sicherheitsleiter Geoffrey Irving spricht von einer geschätzten Wahrscheinlichkeit von 50 Prozent, dass künstliche Intelligenz, die klüger ist als der Mensch, zum Aussterben der Menschheit führen könnte.