KI & Tech

Google: Angreifer nutzten allein KI, um Softwarelücken zu finden und auszunutzen

Googles Threat-Intelligence-Einheit zufolge durchlief ein auf einem offen zugänglichen Server gefundenes Tool den kompletten Zyklus aus dem Auffinden und Ausnutzen von Schwachstellen – ohne menschliches Zutun. Die Opferdaten deuten auf französische Medien-, Unterhaltungs- und Bildungswebsites hin.

KI-Text auf Grundlage von Berichten von The Next Web, ZDNet, adevarul.ro und weiteren Medien. Veröffentlicht . So entsteht er

Für MitgliederDie ersten 30 Sekunden zum Probehören. Synthetische Stimme (KI).

Kurz gefasst

Wie es dazu kam
  1. Februar 2026Die besten verfügbaren Modelle finden den Fehler nach 25 Stunden und 350 Dollar Scanaufwand nicht
  2. Juli 2026GPT 5.6 Sol findet die Schwachstelle in 44 Minuten für 22 Dollar
  3. September 2026GPT 6 Sol findet die Schwachstelle in 13 Minuten für 4,24 Dollar beim ersten geführten Prompt

Ein autonomes Tool und seine Ziele

Googles Threat Intelligence Group und Mandiant erklärten am Montag, dem 16. November, Angreifer hätten KI genutzt, um Softwarefehler zu finden und auszunutzen, ohne dass ein Mensch beteiligt gewesen sei – etwas, das die Gruppe nach eigenen Angaben zuvor noch nicht gesehen hatte. Der Befund steht im jüngsten KI-Bedrohungsbericht der Gruppe. Die Ermittler fanden das Tool, das sie exploit_agent nennen, auf einem offen zugänglichen Staging-Server. Es arbeitet mit mehreren führenden und lokal betriebenen KI-Modellen, vergleicht gängige Websoftware vor und nach jedem Patch, markiert wahrscheinliche Schwachstellen und schreibt und startet anschließend eigenständig Exploits. In der vorherigen Quartalsausgabe, die zwei Monate zuvor erschienen war, hieß es noch, die Gruppe habe bislang keine vollständig autonomen Angriffsketten gegen Ziele beobachtet.

Auf demselben Server lagen Daten, die Opfern gestohlen worden waren, sowie Skripte zum Erraten von Passwörtern (Brute-Force), zum Installieren von Webshells und zum Entfernen von Webshells, die konkurrierende Angreifer platziert hatten. Eine Konfigurationsdatei enthielt Kommentare auf Russisch. Den Opferdaten zufolge scheint der Betreiber französische Medien-, Unterhaltungs- und Bildungswebsites ins Visier genommen zu haben. Der Bericht belegt nicht, dass die Betreiber im Auftrag russischer Behörden handelten. Google beschrieb diesen Wandel in deutlichen Worten.

„die Entdeckung und Ausnutzung von Schwachstellen erstmals vollständig zu automatisieren, ohne dass ein Mensch eingreift“

Google

Vom Patch zum Exploit in wenigen Tagen

Google argumentiert, dass gepatchte Schwachstellen für KI leichter anzugreifen sind als unbekannte, weil Angreifer nur begrenztes Material zum Studieren haben: Code vor und nach den Änderungen, Release Notes und veröffentlichte Forschung. Der Bericht verweist auf zwei Schwachstellen in PaperCut-Druckservern, die Angreifer Ende August miteinander verketteten. Forscher und das Sicherheitsunternehmen Huntress nutzten KI, um innerhalb eines Tages nach der Offenlegung funktionsfähige Exploits zu bauen. GreyNoise, von Google zitiert, erklärte, ein Angreifer habe wahrscheinlich vier Tage nach der Offenlegung KI eingesetzt, um eine Kampagne gegen Hunderte Organisationen zu fahren. Nachdem im Oktober PHP-Schwachstellen gepatcht worden waren, tauchten Hunderte Proof-of-Concept-Exploits auf, die nicht funktionierten; laut Bericht hat KI viele davon wahrscheinlich geschrieben.

Open-Source-Frameworks und die Artex-Warnung des FBI

Google erklärte, mehrere Gruppen setzten inzwischen Open-Source-KI-Hacking-Frameworks in laufenden Angriffen ein, darunter finanziell motivierte Banden und mutmaßliche chinesische Spionagegruppen. Das CAIRN-Framework sei gegen Ziele eingesetzt worden, darunter die US-Luft- und Raumfahrtbranche, und Google erwartet, dass Angreifer mit besseren Tools weniger auf Menschen angewiesen und schwerer zu entdecken sein werden. In einer kurzfristigen Cybersicherheitswarnung warnte das FBI, Hacker setzten ein Open-Source-Tool namens Artex gegen Finanzdienstleister, Regierungsstellen, Technologie-, Verteidigungs-, Telefon- und Internetunternehmen sowie Anwaltskanzleien ein. Die Behörde erklärte, Artex-Intrusionen könnten auffällig sein, doch das Tempo, das sie ermöglichten, mache es menschlichen Verteidigern deutlich schwerer, mitzuhalten. In manchen Fällen gehen mit Artex verbundene Angriffe vom Anvisieren eines Systems bis zur aktiven Kompromittierung „in unter drei Stunden“. Artex wird seit seinem ersten öffentlichen Auftauchen im Juli eingesetzt, unter anderem gegen südkoreanische Finanzinstitute, wo mindestens 68.000 Menschen ihre persönlichen Daten gestohlen wurden. Das FBI bestätigte zudem frühere Erkenntnisse von Microsoft, wonach Hacker Artex gegen ConnectWise einsetzten und bis in die Microsoft-365-Cloud-Umgebungen von mindestens 2.250 Kunden vordrangen; Microsoft zufolge sind die Hacker wahrscheinlich chinesisch.

Billigerer Zugang, billigere Zero-Day-Entdeckung

Googles jüngster Tracker ergab, dass Kriminelle gestohlenen Zugang zu Unternehmens-KI über „LLM Mixers“ weiterverkaufen – Untergrund-Shops, in denen KI-Token-Pakete für nur 0,10 Dollar angeboten werden, während die Organisationen, deren Konten gekapert wurden, Nutzungsrechnungen von über 100.000 Dollar erhalten. Der Bericht beschreibt LLMjacking als Diebstahl von KI-Zugangsdaten wie Benutzernamen, Passwörtern und API-Schlüsseln. John Hultquist, Chefanalyst der Google Threat Intelligence Group, sagte, die Gruppe habe ein Ansteigen von LLMjacking im Verlauf des Jahres 2026 beobachtet. Unabhängig davon testete Xint.io sieben seit Februar 2026 veröffentlichte Modelle – zwei von OpenAI, drei von Anthropic und zwei Open-Source-Modelle von DeepSeek und Z.ai – an einer Schwachstelle in Googles V8-Engine mit der Kennung CVE-2026-102321, einem Type-Confusion-Fehler, der in den Trainingsdaten der Modelle nicht vorkam. Im Februar scheiterten die damals besten verfügbaren Modelle nach 25 Stunden und 350 Dollar Scanaufwand. GPT 5.6 Sol fand die Schwachstelle im Juli in 44 Minuten für 22 Dollar, GPT 6 Sol fand sie im September in 13 Minuten für 4,24 Dollar beim ersten geführten Prompt. Nur drei der sieben Modelle fanden den Fehler: GPT 6 Sol, GPT 5.6 Sol und Claude Opus 5.

Kosten für das Finden der V8-Schwachstelle nach ModellUSD
GPT 5.6 Sol (Juli 2026)
22 USD
GPT 6 Sol (September 2026)
4.24 USD

Daten aus dem Artikeltext

Wachsender Druck auf Verteidiger

Regierungen und Betreiber kritischer Infrastrukturen haben weiterhin mit gravierenden Schwachstellen in PHP zu tun, einer Sprache, auf der rund 70 % des Webs basieren. Behörden in Europa sehen sich zudem Angriffen auf Kühlsysteme von Supermärkten ausgesetzt, die teils auch Iran zugeschrieben werden. Der neue Fall verstärkt die Sorge vor KI-gesteuerten Angriffen, die seit der Einführung von Anthropics Modell Mythos im April gewachsen ist. Google erwartet, dass Angreifer mit besseren Tools weniger auf Menschen angewiesen sein werden.

Fragen zu diesem Text

Quellen und Kontext

Organisationen
Google, Anthropic, OpenAI

Pollar ist kostenlos und ohne Werbung im Text. Getragen wird es von seinen Mitgliedern.

Pollar unterstützen