Die Threat Intelligence Group (GTIG) von Google gab bekannt die Entdeckung eines Zero-Day-Exploits, der vermutlich von künstlicher Intelligenz entwickelt wurde, was eine bedeutende Premiere in der Cybersicherheit darstellt. Berichten zufolge war der Exploit für ein „Massenexploit-Ereignis“ konzipiert, und Google gab an, dass seine proaktive Erkennung seinen Einsatz möglicherweise verhindert hätte.
Google stellte klar, dass es nicht glaube, dass seine eigenen Gemini-Modelle bei der Entwicklung des Exploits verwendet wurden, behielt aber „hohes Vertrauen“ bei, dass ein KI-Modell eine Rolle bei der Entdeckung und Bewaffnung gespielt habe. Das konkrete Ziel des Exploits wurde nicht bekannt gegeben, obwohl Google das betroffene Unternehmen benachrichtigte, das daraufhin einen Patch zur Behebung des Problems einspielte.
Die Identität der Bedrohungsakteure bleibt geheim; Allerdings deutete Google auf die Beteiligung von Gruppen mit Verbindungen zu China und Nordkorea hin, die „erhebliches Interesse“ am Einsatz von KI zur Ausnutzung von Sicherheitslücken gezeigt hätten. John Hultquist, Chefanalyst bei GTIG, beschrieb die Situation als „einen Vorgeschmack auf das, was kommen wird“ und bezeichnete sie als „die Spitze des Eisbergs“, was darauf hindeutet, dass dies erst der Anfang solcher Angriffe sei.
Der GTIG-Bericht stellte fest, dass Bedrohungsakteure KI in verschiedenen Phasen von Cyberangriffen einsetzen, betonte aber auch, dass KI als leistungsstarkes Werkzeug für Verteidiger gegen diese Bedrohungen dienen kann. Andere Unternehmen nutzen KI in ähnlicher Weise für Sicherheitsmaßnahmen. So kündigte Anthropic kürzlich das Project Glasswing an, das darauf abzielt, „Schwachstellen mit hohem Schweregrad“ zu identifizieren und sich davor zu schützen.
