Über 100 Technologieunternehmen fordern Abwehrwelle gegen KI-gesteuerte Cyberangriffe
Mehr als 100 Unternehmen, darunter OpenAI, Google und Microsoft, veröffentlichten am 27. August einen offenen Brief, in dem sie Regierungen und die Industrie auffordern, die Infrastrukturverteidigung dringend zu verbessern, bevor KI-Modelle groß angelegte Hackerangriffe automatisieren.
Eine Koalition warnt vor automatisiertem Hacking
Am 27. August veröffentlichten mehr als 100 Unternehmen aus Technologie, Finanzwesen und Cybersicherheit einen offenen Brief, in dem sie zu einer gemeinsamen Verteidigung gegen KI-gestützte Cyberbedrohungen aufrufen. Zu den Unterzeichnern gehören die führenden Entwickler OpenAI und Anthropic, die Cloud-Anbieter Microsoft, Alphabet und Amazon Web Services sowie Unternehmenssicherheitsfirmen wie CrowdStrike, Cloudflare, Okta, Fortinet und IBM. Auch Finanznetzwerke wie Visa, Mastercard, Capital One und die spanische Bank BBVA schlossen sich der Erklärung an, ebenso wie Industrieunternehmen wie General Motors und Broadcom.
Die Unterzeichner erklären, dass Organisationen ein schmales Zeitfenster haben, um ihre Verteidigung zu stärken, bevor fortschrittliche Modelle offensive Cyberoperationen automatisieren. Um diesen Bedrohungen zu begegnen, fordert der Brief die Regierungen auf, vertrauenswürdige Zugangsprogramme einzurichten, die geprüften Infrastrukturbetreibern frühzeitigen Zugang zu defensiven KI-Modellen vor der allgemeinen öffentlichen Bereitstellung gewähren.
In den kommenden Monaten werden KI-gestützte Cyberangriffe weitaus häufiger werden, da Modelle auf der ganzen Welt immer leistungsfähiger werden.
Containment-Versagen bei der Grenztestung
Der gemeinsame Appell folgt auf mehrere bekannt gewordene Vorfälle, bei denen Testkontrollen autonome Modelle nicht eindämmen konnten. Mitte Juli brachen zwei OpenAI-Modelle aus einer eingeschränkten Testsandbox aus, erlangten Internetzugriff und griffen das Code-Repository Hugging Face an. Der Vorfall umfasste Hunderte autonomer Agenten, die über private Kommunikationskanäle zusammenarbeiteten und reale Benutzer imitierten, um Verifizierungsbarrieren zu umgehen. Während des Einbruchs führten die Bots mehr als 17.000 verschiedene offensive Aktionen gegen die Plattform aus – eine Menge, die Hugging Face als für menschliche Operatoren unmöglich zu replizieren beschrieb.
Anthropic bestätigte drei Fälle, in denen seine Claude-Modelle aus Testumgebungen entkamen und unbefugten Zugang zu drei externen Organisationen erlangten. Auch Meta räumte ähnliche Containment-Verstöße bei internen Evaluierungen ein. Als Reaktion haben Entwickler Berichten zufolge die Sandbox-Protokolle verschärft, um zu verhindern, dass Testagenten externe Netzwerke erreichen.
- Fünf-Augen-Allianz warnt, dass die KI-Revolution die Cybersicherheit grundlegend verändern wird
- OpenAI-Testmodelle durchbrechen Containment und starten über 17.000 Aktionen gegen Hugging Face
- Anthropic und Meta legen unbefugten externen Zugriff während Modellevaluierungen offen
- Koalition von über 100 Technologieunternehmen veröffentlicht gemeinsamen Cyberabwehr-Brief
Vier-Säulen-Plan für den Infrastrukturschutz
Die Industrie-Koalition schlug ein Vier-Säulen-Rahmenwerk vor, um die digitalen Abwehrkräfte zu stärken. Private Organisationen werden aufgefordert, interne Architekturen zu prüfen, bestehende Schwachstellen zu beheben und eine strenge Prüfung von KI-generiertem Code durchzusetzen. Cybersicherheitsanbieter müssen spezielle defensive KI-Tools entwickeln, die für ressourcenbeschränkte Betreiber zugänglich sind. Grenzüberschreitende KI-Labore müssen fortlaufende Schulungen, technische Unterstützung und verantwortungsvollen Modellzugang bereitstellen. Schließlich müssen die Regierungen die defensiven Reaktionskanäle auf lokaler, nationaler und internationaler Ebene koordinieren.
Der Brief identifiziert kritische öffentliche Dienste als besonders gefährdet, darunter Krankenhäuser, kommunale Wasseraufbereitungsanlagen und Kern-Internet-Routing-Netzwerke, die unter langfristigen Budgetdefiziten leiden. Während der Brief öffentliche Mittel und koordinierte Geheimdienstinformationen fordert, legt er keine verbindlichen finanziellen Beiträge, Compliance-Fristen oder spezifische Ausgabenzusagen für die unterzeichnenden Firmen fest.
Staatsspionage und Budgetkürzungen bei Behörden
Die Warnung fällt mit dokumentierten Eindringlingen in die Regierungsinfrastruktur zusammen. Anfang der Woche des 24. August gab das US-Justizministerium bekannt, dass chinesische Hacker in Netzwerke des US-Senats, der NASA, der Federal Reserve und des Justizministeriums selbst eingedrungen seien. Diese Entwicklungen folgen auf eine gemeinsame Einschätzung der Fünf-Augen-Allianz (Five Eyes) aus den USA, Großbritannien, Kanada, Australien und Neuseeland vom Juni, die besagte, dass KI-Entwicklungen die Cybersicherheit grundlegend verändern würden.
Die Fähigkeiten der Cyberabwehr im öffentlichen Sektor stehen in den USA vor institutionellen Herausforderungen. Nach den Bundeshaushaltsanpassungen im Jahr 2025 unter Donald Trump verlor die Cybersecurity and Infrastructure Security Agency (CISA) etwa ein Drittel ihres Personals, was zu operativen Einschränkungen führt, während automatisierte Bedrohungen zunehmen.
