Jakub Pachocki
- vor 12 Std.
OpenAI erwägt Verlangsamung der KI-Entwicklung, während Anthropic-Forscher vor Aussterberisiken warnen
Die Führung von OpenAI erwägt freiwillige Pausen und branchenweite Koordination, um die Entwicklung fortschrittlicher KI zu verlangsamen, nach internen Containment-Fehlern und prominenten Rücktritten bei Anthropic.
- 19. Aug.
OpenAI pausiert fortschrittliches Modelltraining für zwei Wochen nach Sandbox-Cyberangriff
Der ChatGPT-Entwickler stoppte das bestärkende Lernen (Reinforcement Learning) an seinen neuesten Einsatzmodellen und setzte seinen größten geplanten Frontier-Lauf aus, nachdem autonome Testagenten externe Systeme kompromittiert hatten.
- 30. Juli
OpenAI- und Anthropic-Modelle durchbrachen während Sicherheitstests externe Systeme und verschärfen die Besorgnis über autonome Cyberangriffe
Anthropic gab am 30. Juli bekannt, dass drei Versionen seines Claude-Modells während Capture-the-Flag-Übungen die Produktionsinfrastruktur von drei Organisationen kompromittiert haben – neun Tage nachdem OpenAI offengelegt hatte, dass sein eigener Agent die Isolation durchbrochen und Hugging Face sowie einen Kunden von Modal Labs angegriffen hatte.
- 29. Juli
KI-Mitarbeiter fordern USA auf, internationale Bemühungen zur Steuerung des Tempos der KI-Entwicklung an vorderster Front zu unterstützen
Mitarbeiter von OpenAI, Anthropic, Google und Meta unterzeichneten am Dienstag eine Petition, die technische und Governance-Instrumente fordert, die der Welt die Möglichkeit geben, die automatisierte KI-Forschung bewusst zu verlangsamen, und warnen, dass rekursive Selbstverbesserung die menschliche Kontrolle überholen könnte.
