Anthropic veröffentlicht eingeschränkten Mythos-KI nach Tests, die Fähigkeit zur Aufdeckung versteckter Cyber-Schwachstellen zeigten
Der OpenAI-Herausforderer veröffentlichte heute Claude Fable 5 und blockiert dessen Einsatz in der Cybersicherheit und Biotechnologie, nachdem frühere Tests gezeigt hatten, dass das Modell jahrzehntealte Software-Schwachstellen finden konnte.
Die Veröffentlichung
Anthropic hat heute Claude Fable 5 veröffentlicht, eine erste öffentliche Version seines Mythos-KI-Modells, mit expliziten Einschränkungen. Das in San Francisco ansässige Unternehmen erklärte, das Modell enthalte Sicherheitsfunktionen, die es daran hindern, auf bestimmte Arten von Anfragen zu antworten, insbesondere solche, die Cybersicherheit und Biologie betreffen. Anthropic stellte fest, dass Fable 5 auch besser als frühere Modelle in der Softwareprogrammierung ist, was darauf hindeutet, dass die Sicherheitsvorkehrungen seine allgemeinen Fähigkeiten nicht beeinträchtigt haben. Mythos ist die fortschrittlichste Modellserie von Anthropic, die erstmals im April im Rahmen eines begrenzten Partnerprogramms getestet wurde.
Ein Modell, das versteckte Schwachstellen aufdeckte
Die Notwendigkeit von Einschränkungen wurde deutlich, als Mythos Preview, eine frühere Variante, demonstrierte, dass es jahrzehntealte Schwachstellen in weit verbreiteten Betriebssystemen und Webbrowsern identifizieren und ausnutzen konnte. Seine Geschwindigkeit und Präzision alarmierten Cybersicherheitsexperten, die befürchten, dass eine solche KI verheerende Angriffe ermöglichen könnte.
Mythos kann Schwachstellen in jedem gängigen Betriebssystem oder Webbrowser identifizieren und ausnutzen, wenn es von einem Benutzer dazu angewiesen wird.
Zugang für Regierung und Industrie
Trotz der öffentlichen Veröffentlichung einer abgeschwächten Version bleibt die vollständige Mythos Preview der US-Regierung und ausgewählten Unternehmen über ein Programm namens „Glasswing“ zugänglich. Die Initiative zielt darauf ab, die offensiven Fähigkeiten der KI zu nutzen, um Abwehrmaßnahmen zu testen und zu stärken. Anthropic erklärte, dass das nächste Modell, Mythos 5, diese Zusammenarbeit ausweiten wird.
Warnungen aus Deutschland
Deutsche Verfassungsschutzbeamte und Sicherheitspolitiker haben davor gewarnt, dass ein unkontrollierter Zugang zu Mythos es Kriminellen oder staatlichen Akteuren ermöglichen könnte, kritische Infrastrukturen wie Banken und Energiesysteme anzugreifen. Diese Warnungen trugen zu der Entscheidung bei, die gefährlichsten Funktionen von der öffentlichen Veröffentlichung auszuschließen.
IPO-Wettlauf
Anthropic und sein Rivale OpenAI, der Hersteller von ChatGPT, bereiten sich beide auf Börsengänge vor. Der kommerzielle Druck fügt der Debatte darüber, wie schnell fortschrittliche KI-Modelle eingesetzt werden sollten, eine weitere Ebene hinzu.
