KI & Tech
Google: Angreifer nutzten allein KI, um Softwarelücken zu finden und auszunutzen
Googles Threat-Intelligence-Einheit zufolge durchlief ein auf einem offen zugänglichen Server gefundenes Tool den kompletten Zyklus aus dem Auffinden und Ausnutzen von Schwachstellen – ohne menschliches Zutun. Die Opferdaten deuten auf französische Medien-, Unterhaltungs- und Bildungswebsites hin.
KI-Text auf Grundlage von Berichten von The Next Web, ZDNet, adevarul.ro und weiteren Medien. Veröffentlicht . So entsteht er
Für MitgliederDie ersten 30 Sekunden zum Probehören. Synthetische Stimme (KI).
Kurz gefasst
Google zufolge vergleicht ein auf einem offen zugänglichen Staging-Server gefundenes Tool namens exploit_agent Patches, findet Schwachstellen und schreibt und startet Exploits ohne menschliches Zutun – eine Premiere für die Gruppe.
Huntress baute innerhalb eines Tages nach der Offenlegung funktionsfähige PaperCut-Exploits, und GreyNoise datierte eine KI-gesteuerte Kampagne gegen Hunderte Organisationen auf vier Tage nach der Offenlegung.
Das FBI erklärt, mit Artex verbundene Angriffe könnten in unter drei Stunden zur aktiven Kompromittierung führen; bei südkoreanischen Finanzinstituten wurden mindestens 68.000 Menschen persönliche Daten gestohlen.
Microsoft, dem zufolge die Hacker wahrscheinlich chinesisch sind, meldete Zugriff auf die Microsoft-365-Cloud-Umgebungen von mindestens 2.250 ConnectWise-Kunden – ein Befund, den das FBI bestätigte.
Googles KI-Bedrohungstracker für das vierte Quartal meldet, KI-Token-Pakete würden über LLM Mixers für nur 0,10 Dollar verkauft, während Opfer Nutzungsrechnungen von über 100.000 Dollar erhalten.
Xint.io stellte fest, dass GPT 6 Sol im September eine V8-Schwachstelle in 13 Minuten für 4,24 Dollar fand – nach 22 Dollar und 44 Minuten für GPT 5.6 Sol im Juli.
- Februar 2026Die besten verfügbaren Modelle finden den Fehler nach 25 Stunden und 350 Dollar Scanaufwand nicht
- Juli 2026GPT 5.6 Sol findet die Schwachstelle in 44 Minuten für 22 Dollar
- September 2026GPT 6 Sol findet die Schwachstelle in 13 Minuten für 4,24 Dollar beim ersten geführten Prompt
Ein autonomes Tool und seine Ziele
Googles Threat Intelligence Group und Mandiant erklärten am Montag, dem 16. November, Angreifer hätten KI genutzt, um Softwarefehler zu finden und auszunutzen, ohne dass ein Mensch beteiligt gewesen sei – etwas, das die Gruppe nach eigenen Angaben zuvor noch nicht gesehen hatte. Der Befund steht im jüngsten KI-Bedrohungsbericht der Gruppe. Die Ermittler fanden das Tool, das sie exploit_agent nennen, auf einem offen zugänglichen Staging-Server. Es arbeitet mit mehreren führenden und lokal betriebenen KI-Modellen, vergleicht gängige Websoftware vor und nach jedem Patch, markiert wahrscheinliche Schwachstellen und schreibt und startet anschließend eigenständig Exploits. In der vorherigen Quartalsausgabe, die zwei Monate zuvor erschienen war, hieß es noch, die Gruppe habe bislang keine vollständig autonomen Angriffsketten gegen Ziele beobachtet.
Auf demselben Server lagen Daten, die Opfern gestohlen worden waren, sowie Skripte zum Erraten von Passwörtern (Brute-Force), zum Installieren von Webshells und zum Entfernen von Webshells, die konkurrierende Angreifer platziert hatten. Eine Konfigurationsdatei enthielt Kommentare auf Russisch. Den Opferdaten zufolge scheint der Betreiber französische Medien-, Unterhaltungs- und Bildungswebsites ins Visier genommen zu haben. Der Bericht belegt nicht, dass die Betreiber im Auftrag russischer Behörden handelten. Google beschrieb diesen Wandel in deutlichen Worten.
„die Entdeckung und Ausnutzung von Schwachstellen erstmals vollständig zu automatisieren, ohne dass ein Mensch eingreift“
Vom Patch zum Exploit in wenigen Tagen
Google argumentiert, dass gepatchte Schwachstellen für KI leichter anzugreifen sind als unbekannte, weil Angreifer nur begrenztes Material zum Studieren haben: Code vor und nach den Änderungen, Release Notes und veröffentlichte Forschung. Der Bericht verweist auf zwei Schwachstellen in PaperCut-Druckservern, die Angreifer Ende August miteinander verketteten. Forscher und das Sicherheitsunternehmen Huntress nutzten KI, um innerhalb eines Tages nach der Offenlegung funktionsfähige Exploits zu bauen. GreyNoise, von Google zitiert, erklärte, ein Angreifer habe wahrscheinlich vier Tage nach der Offenlegung KI eingesetzt, um eine Kampagne gegen Hunderte Organisationen zu fahren. Nachdem im Oktober PHP-Schwachstellen gepatcht worden waren, tauchten Hunderte Proof-of-Concept-Exploits auf, die nicht funktionierten; laut Bericht hat KI viele davon wahrscheinlich geschrieben.
Open-Source-Frameworks und die Artex-Warnung des FBI
Google erklärte, mehrere Gruppen setzten inzwischen Open-Source-KI-Hacking-Frameworks in laufenden Angriffen ein, darunter finanziell motivierte Banden und mutmaßliche chinesische Spionagegruppen. Das CAIRN-Framework sei gegen Ziele eingesetzt worden, darunter die US-Luft- und Raumfahrtbranche, und Google erwartet, dass Angreifer mit besseren Tools weniger auf Menschen angewiesen und schwerer zu entdecken sein werden. In einer kurzfristigen Cybersicherheitswarnung warnte das FBI, Hacker setzten ein Open-Source-Tool namens Artex gegen Finanzdienstleister, Regierungsstellen, Technologie-, Verteidigungs-, Telefon- und Internetunternehmen sowie Anwaltskanzleien ein. Die Behörde erklärte, Artex-Intrusionen könnten auffällig sein, doch das Tempo, das sie ermöglichten, mache es menschlichen Verteidigern deutlich schwerer, mitzuhalten. In manchen Fällen gehen mit Artex verbundene Angriffe vom Anvisieren eines Systems bis zur aktiven Kompromittierung „in unter drei Stunden“. Artex wird seit seinem ersten öffentlichen Auftauchen im Juli eingesetzt, unter anderem gegen südkoreanische Finanzinstitute, wo mindestens 68.000 Menschen ihre persönlichen Daten gestohlen wurden. Das FBI bestätigte zudem frühere Erkenntnisse von Microsoft, wonach Hacker Artex gegen ConnectWise einsetzten und bis in die Microsoft-365-Cloud-Umgebungen von mindestens 2.250 Kunden vordrangen; Microsoft zufolge sind die Hacker wahrscheinlich chinesisch.
Billigerer Zugang, billigere Zero-Day-Entdeckung
Googles jüngster Tracker ergab, dass Kriminelle gestohlenen Zugang zu Unternehmens-KI über „LLM Mixers“ weiterverkaufen – Untergrund-Shops, in denen KI-Token-Pakete für nur 0,10 Dollar angeboten werden, während die Organisationen, deren Konten gekapert wurden, Nutzungsrechnungen von über 100.000 Dollar erhalten. Der Bericht beschreibt LLMjacking als Diebstahl von KI-Zugangsdaten wie Benutzernamen, Passwörtern und API-Schlüsseln. John Hultquist, Chefanalyst der Google Threat Intelligence Group, sagte, die Gruppe habe ein Ansteigen von LLMjacking im Verlauf des Jahres 2026 beobachtet. Unabhängig davon testete Xint.io sieben seit Februar 2026 veröffentlichte Modelle – zwei von OpenAI, drei von Anthropic und zwei Open-Source-Modelle von DeepSeek und Z.ai – an einer Schwachstelle in Googles V8-Engine mit der Kennung CVE-2026-102321, einem Type-Confusion-Fehler, der in den Trainingsdaten der Modelle nicht vorkam. Im Februar scheiterten die damals besten verfügbaren Modelle nach 25 Stunden und 350 Dollar Scanaufwand. GPT 5.6 Sol fand die Schwachstelle im Juli in 44 Minuten für 22 Dollar, GPT 6 Sol fand sie im September in 13 Minuten für 4,24 Dollar beim ersten geführten Prompt. Nur drei der sieben Modelle fanden den Fehler: GPT 6 Sol, GPT 5.6 Sol und Claude Opus 5.
- GPT 5.6 Sol (Juli 2026)
- 22 USD
- GPT 6 Sol (September 2026)
- 4.24 USD
Daten aus dem Artikeltext
Wachsender Druck auf Verteidiger
Regierungen und Betreiber kritischer Infrastrukturen haben weiterhin mit gravierenden Schwachstellen in PHP zu tun, einer Sprache, auf der rund 70 % des Webs basieren. Behörden in Europa sehen sich zudem Angriffen auf Kühlsysteme von Supermärkten ausgesetzt, die teils auch Iran zugeschrieben werden. Der neue Fall verstärkt die Sorge vor KI-gesteuerten Angriffen, die seit der Einführung von Anthropics Modell Mythos im April gewachsen ist. Google erwartet, dass Angreifer mit besseren Tools weniger auf Menschen angewiesen sein werden.
Fragen zu diesem Text
Quellen und Kontext
- The Next WebGoogle sagt, Angreifer nutzten allein KI, um Patches in Exploits zu verwandelnGoogle says attackers used AI alone to turn patches into exploits · Original auf Englisch
- ZDNet5 Wege, wie KI die Verteidigung Ihres Unternehmens im Jahr 2027 verändern wird5 ways AI will change how you defend your business in 2027 · Original auf Englisch
- adevarul.roGoogle warnt: Russischsprachige Hacker starteten den ersten vollautomatisierten Cyberangriff mit künstlicher IntelligenzGoogle avertizează: Hackeri vorbitori de rusă au lansat primul atac cibernetic complet automatizat cu ajutorul inteligenței artificiale · Original auf Rumänisch
- ΣΚΑΪGoogle: Russischsprachige Hacker hinter dem möglicherweise ersten vollautomatisierten Cyberangriff mit KIGoogle: Ρωσόφωνοι χάκερ πίσω από πιθανώς την πρώτη πλήρως αυτοματοποιημένη κυβερνοεπίθεση με AI · Original auf Griechisch
Pollar ist kostenlos und ohne Werbung im Text. Getragen wird es von seinen Mitgliedern.
Pollar unterstützen