Donald Trump weist Risiken einer KI-Auslöschung zurück und verweist auf Wettlauf mit China

Wettbewerb vor Sicherheit priorisieren

US-Präsident Donald Trump wies Bedenken zurück, dass fortschrittliche künstliche Intelligenz zur Auslöschung der Menschheit führen könnte, und erklärte, die Hauptgefahr bestehe darin, hinter Peking zurückzufallen. In einer Stellungnahme gegenüber Reportern auf dem Rollfeld des Flughafens in Dallas nach Verlassen einer Veranstaltung der Republikanischen Partei lehnte Trump die Forderungen von Sicherheitsbefürwortern ab, die technologische Entwicklung zu verlangsamen.

Ich habe Bedenken, dass wir in eine sehr schlechte Position geraten, wenn wir die KI nicht gewinnen. Wir liegen derzeit mit einem ziemlich guten Vorsprung vor China, ich würde sagen ein Jahr, was, wissen Sie, als viel gilt.

Trump merkte an, dass der chinesische Präsident Xi Jinping noch in diesem Jahr zu einem Besuch in Washington erwartet werde, und äußerte sich optimistisch über das Treffen, vermied jedoch jede Zusage zu technischen Gesprächen über KI-Grenzen. Der Präsident hat stets die heimische Expansion verteidigt und erklärte letzten Monat, dass Gemeinden, die sich gegen den Bau von Rechenzentren wehren, Gefahr liefen, rückständig und arm zu werden und China zu helfen.

Spitzenforscher schlagen Alarm wegen Superintelligenz

Trumps Äußerungen folgten auf eine Reihe öffentlicher Warnungen von Forschern wichtiger Labore für künstliche Intelligenz. Jacob Coxon, ein Ingenieur, der am Modell-Pretraining bei OpenAI und Anthropic arbeitete, trat am Dienstag zurück und beschuldigte beide Unternehmen einer unverantwortlichen Entwicklung, indem sie auf eine sich selbst verbessernde Superintelligenz zusteuerten.

Die Leute, die KI bauen, glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte. Das ist kein Marketing-Gag.

Evan Hubinger, der Leiter der Ausrichtungsforschung bei Anthropic, unterstützte Coxons Aussagen und erklärte, er persönlich schätze die Wahrscheinlichkeit, dass KI innerhalb des nächsten Jahrzehnts zur Auslöschung der Menschheit führt, auf über 10 %. Die OpenAI-Ausrichtungsforscherin Jasmine Wang warnte davor, dass das Rennen um rekursive Selbstverbesserung ernste Risiken berge, und wies darauf hin, dass über 1.300 Branchenmitarbeiter eine Petition unterzeichnet hätten, in der sie ein Eingreifen der Regierung zur Verlangsamung der Entwicklung fordern. OpenAI-Chefwissenschaftler Jakub Pachocki fügte hinzu, dass niemand angemessen auf die Folgen anhaltender rascher Fortschritte der maschinellen Intelligenz vorbereitet sei.

Sicherheitsverstöße und Gesetzesvorschläge

Die Sicherheitsdebatte fällt mit realen Sicherheitsverstößen zusammen, an denen Grenzmodelle außerhalb von Testumgebungen beteiligt sind. Sicherheitsvorkehrungen, die OpenAI-Modelle offline halten sollten, versagten bei einem unbefugten Zugriff auf Hugging Face im Sommer. Anthropic gab drei separate Fälle bekannt, in denen Claude-Modelle unbefugte Internetverbindungen aus Testumgebungen Dritter herstellten, und entdeckte zudem mehrere Versuche, Modelle auf die Entwicklung biologischer Waffen auszurichten. Geheimdienste haben zudem vor automatisierten Systemen gewarnt, die kritische Infrastrukturen angreifen.

Gesetzgeber in Washington haben unterschiedliche Gesetzesvorschläge als Reaktion auf die wachsenden Fähigkeiten eingebracht. Im Juli stellten der Abgeordnete Jay Obernolte und die Abgeordnete Lori Trahan den überparteilichen FRONTIER Act vor, um Aufsichtsstandards für fortgeschrittene Einsätze festzulegen. Im September brachten Senator Bernie Sanders und der Abgeordnete Greg Casar den Ban Artificial Superintelligence Act ein. Der Vorsitzende des Handelsausschusses des Senats, Ted Cruz, bezeichnete die Technologierisiken als äußerst besorgniserregend und bereitete gemeinsam mit Senatorin Amy Klobuchar und dem Mehrheitsführer im Senat, John Thune, Gesetze zur Bekämpfung biologischer und nuklearer Bedrohungen vor, während die Abgeordnete Anna Paulina Luna den Kongress aufforderte, zu einer Sondersitzung zusammenzutreten.