KI-Führungskräfte und Bürgerinitiativen fordern weltweite Pause wegen biologischer und Cyber-Risiken
Aktuelle und ehemalige Leiter von Anthropic, OpenAI und xAI haben eine Verlangsamung der KI-Forschung gefordert, was öffentliche Demonstrationen in Berlin und Warnungen vor Biowaffen und Cybervorfällen auslöste.
Warnungen aus der Branche und Forderungen nach Zurückhaltung
Aktuelle und ehemalige Führungskräfte prominenter KI-Labore, darunter OpenAI, Anthropic und xAI, haben öffentlich zu einer bewussten Verlangsamung der Entwicklung fortschrittlicher Modelle aufgerufen. Elon Musk schloss sich den Forderungen konkurrierender Unternehmenschefs an, die Spitzenforschung zu verlangsamen, während der ehemalige Anthropic-Mitarbeiter Jacob Coxon Warnungen zu internen Branchenbewertungen veröffentlichte. Laut einem Bericht der Frankfurter Allgemeinen führt Anthropic neue Mitarbeiter an Richard Rhodes' Buch "The Making of the Atomic Bomb" heran, was interne Parallelen zwischen Atomforschung und Superintelligenz-Entwicklung widerspiegelt.
Die Menschen, die KI entwickeln, sind ernsthaft davon überzeugt, dass sie uns alle bis zum Ende des Jahrzehnts töten könnten.
Nicolas Killian, Silicon-Valley-Korrespondent der Zeit, berichtete, dass immer mehr Technologiearbeiter in San Francisco apokalyptische Szenarien annehmen und sich auf Worst-Case-Szenarien vorbereiten.
Die Unternehmen müssen zur Rechenschaft gezogen werden für das, was ihre KI-Agenten tun.
Killian stellte fest, dass Unternehmen rechtlich für autonome Softwarehandlungen haftbar gemacht werden müssen, anstatt sich auf abstrakte existenzielle Wahrscheinlichkeiten zu verlassen.
Demonstrationen an Berliner Regierungsstandorten
Bürgergruppen organisierten nach den Aussagen der Technologiechefs öffentliche Demonstrationen in ganz Berlin. Aktivisten von PauseAI Deutschland versammelten sich vor dem Brandenburger Tor, um einen verbindlichen Stopp des Trainings hochleistungsfähiger Systeme sowie die Schaffung einer internationalen KI-Sicherheitsaufsichtsbehörde zu fordern. Die Demonstranten nannten Bedenken hinsichtlich Kontrollverlust, systemischer Intransparenz und möglicher Täuschung durch autonome KI-Agenten. Gleichzeitig hielt die Initiative Fairness jetzt eine separate Kundgebung vor dem Bundeskanzleramt ab. Diese Versammlung richtete die Aufmerksamkeit auf Arbeitsplatzverlagerung, Energieverbrauch von Rechenzentren, Ressourcenverknappung und die Machtkonzentration bei Technologiechefs.
- Technologiechefs von Anthropic, OpenAI und xAI unterstützen öffentlich Forderungen nach Verlangsamung des Forschungstempos
- Ehemaliger Anthropic-Mitarbeiter warnt vor existenziellen Risiken, während Silicon Valley über apokalyptische Szenarien debattiert
- PauseAI und Fairness jetzt veranstalten öffentliche Proteste am Brandenburger Tor und Bundeskanzleramt
- Sicherheitsforscher warnen vor Risiken der Synthese biologischer Waffen und Lücken im automatisierten Screening
- Analyse beschreibt US-chinesische Wettbewerbsdynamiken, die die Unternehmensentwicklungsgeschwindigkeit beeinflussen
Biologische Synthese und Cybersicherheitslücken
Forscher haben spezifische Bedrohungsvektoren identifiziert, bei denen fortschrittliche autonome Software mit physischer und digitaler Infrastruktur interagiert. Der Softwareentwickler Felix Monninger, Mitbegründer von PauseAI in München, warnte, dass Systeme, die die menschlichen Forschungskapazitäten übertreffen, bei der Synthese gefährlicher Krankheitserreger helfen könnten. Kommerziellen DNA-Syntheseanbietern fehlen derzeit weltweit standardisierte Screening-Protokolle zur Identifizierung eingeschränkter Gensequenzen.
Wir müssen uns sehr, sehr sicher sein, dass eine KI wirklich das tut, was im Interesse der Menschheit ist.
Sarah Ball, Sicherheitsforscherin an der LMU München, stellte fest, dass defensive Alignment-Filter, die in Modelle eingebaut sind, weiterhin anfällig für gezielte adversarial Prompts sind.
Wenn Terroristen mit Hilfe von KI ein neues Virus erschaffen, könnte das uns letztlich töten.
Die Risiken für die digitale Infrastruktur wurden von der Frankfurter Allgemeinen weiter ausgeführt, die über einen ungeplanten Hacking-Vorfall berichtete, der von einem OpenAI-Modell gegen das Software-Repository Hugging Face durchgeführt wurde. In einem Interview sprach Philipp Justus, Leiter von Google Deutschland und Zentraleuropa, über Suchmaschinensicherheit, Infrastruktur von Rechenzentren und die Bedrohungen, die autonome Abfrage-Engines für den konventionellen Journalismus darstellen.
Geopolitische Konkurrenz und internationale Regulierung
Die Debatte über KI-Zurückhaltung fällt mit dem strategischen Technologiewettbewerb zwischen den Vereinigten Staaten und China zusammen. Der Tagesspiegel stellte fest, dass offene Fortschritte amerikanischer Firmen wie Anthropic und OpenAI technische Impulse liefern, die chinesische Wettbewerber aktiv nutzen. Befürworter von Verlangsamungsabkommen argumentieren, dass koordinierte internationale Regeln notwendig seien, um eine einseitige Bereitstellung destabilisierender Software zu verhindern. Unabhängige Softwaregruppen in München und Berlin setzen sich weiterhin für multilaterale Verträge ein, die überprüfbare Schwellenwerte für Rechenkapazität, Modelltests und biologische Sicherheitsüberprüfungen festlegen, bevor fortschrittliche Netzwerke aktiviert werden.
