Trump lehnt Verlangsamung der KI-Entwicklung ab, während Anthropic, OpenAI und Musk vor Risiken warnen

Trump lehnt KI-Verlangsamung während Irland-Besuch ab

Der Präsident der Vereinigten Staaten, Donald Trump, wies während eines Besuchs in Irland am Sonntag Forderungen zurück, die Entwicklung künstlicher Intelligenz zu verlangsamen. Bei einer spontanen Pressekonferenz im Rahmen der Irish Open Golf-Turniere in der Nähe von Dublin bestand Trump darauf, dass die Vereinigten Staaten ihren Wettbewerbsvorteil gegenüber China wahren müssten. Er wies die wachsenden Sicherheitswarnungen führender Technologie-Manager zurück und charakterisierte diejenigen, die regulatorische Pausen befürworteten, als Negativkräfte, die unbegründete Szenarien heraufbeschwören. Trump hielt daran fest, dass künstliche Intelligenz keine existenzielle Bedrohung für die Menschheit darstelle, und stellte das geopolitische Rennen in absoluten Kategorien dar.

Wir sind China in der künstlichen Intelligenz voraus, wir sind das am weitesten entwickelte Land der Welt, und ehrlich gesagt möchte ich, dass das so bleibt.

Technologie-Manager bilden seltene Sicherheitskoalition

Trumps Äußerungen folgten auf eine Reihe koordinierter Warnungen der Vorstandsvorsitzenden mehrerer konkurrierender Entwickler künstlicher Intelligenz am Wochenende. Am Samstag unterstützten Anthropic-Chef Dario Amodei, OpenAI-Chef Sam Altman und SpaceXAI-Gründer Elon Musk Maßnahmen zur Begrenzung des Tempos von Modellausrollungen. Die Führungskräfte nannten Risiken des Kontrollverlusts über fortschrittliche Systeme sowie den möglichen Missbrauch bei Cyberangriffen und Bioterrorismus. Am Sonntag unterstützte Alphabet-Chefwissenschaftler Demis Hassabis Amodeis Vorschlag als den richtigen Weg, während Meta das einzige führende Unternehmen ohne offizielle Stellungnahme blieb. Die einheitliche Haltung folgte auf den Rücktritt des Anthropic-Forschers Jacob Coxon früher in der Woche, der das Labor verlassen hatte, nachdem er Bedenken wegen der rasanten Entwicklung geäußert hatte.

Amodei warnt vor automatisierten Internetstörungen

Die Initiative begann am Samstag, als Amodei einen ausführlichen Aufsatz auf seiner Website veröffentlichte, in dem er einen Vorschlag zur Steuerung von Modellrisiken darlegte. Sein Plan verlangt von Technologieunternehmen, unabhängigen externen Evaluatoren vollen Zugang zu gewähren, um fortschrittliche Modelle vor der kommerziellen Veröffentlichung zu überprüfen. Amodei warnte, dass ungezügeltes Fähigkeitswachstum ohne Schutzmaßnahmen zu schwerwiegenden systemischen Störungen führen könnte. Er nannte insbesondere das Risiko, dass automatisierte Schwärme im Laufe des nächsten Jahres die digitale Infrastruktur kapern könnten.

Angesichts der Beschleunigung der Entwicklung von KI-Fähigkeiten befürchte ich, dass ein solcher Schwarm innerhalb von 6 bis 12 Monaten durch ein persistentes Botnetz die Kontrolle über das gesamte Internet übernehmen könnte (was potenziell Schäden in Höhe von Hunderten Milliarden Dollar verursachen würde) und dass das Ausmaß der Schäden weiter zunehmen wird, wenn KI leistungsfähiger wird, ohne über die notwendigen Sicherheitsvorkehrungen zu verfügen.

Wettbewerber schließen sich an und OpenAI setzt Börsenpläne aus

Rivalen aus der Branche befürworteten Amodeis Einschätzung innerhalb weniger Stunden nach ihrer Veröffentlichung. Musk postete auf X, um sein Einverständnis zu bekunden, und erklärte, Amodei habe recht, obwohl er sich zuvor nicht an kollektiven Forderungen nach Entwicklungspausen beteiligt hatte. Auch Altman postete seine Unterstützung für eine vorsichtige Weiterentwicklung, bevor er sich in einem Fortune-Interview zum finanziellen Zeitplan des Unternehmens äußerte. Er gab bekannt, dass OpenAI seinen geplanten Börsengang, der zuvor zusammen mit einem möglichen Börsengang von Anthropic erwartet worden war, verschoben habe, um Sicherheitsprobleme als privates Unternehmen zu lösen. Altman erklärte, dass ein Gang an die öffentlichen Märkte in dieser Zeit unnötige Risiken für das Unternehmen schaffen würde.

Es wäre ein unkluger Zeitpunkt, an die Börse zu gehen.