Googles Big Sleep AI: Die erste, die eine 0-Tage-Schwachstelle erkennt

Googles Big Sleep AI hat eine Zero-Day-Schwachstelle in der SQLite-Datenbank entdeckt und damit ein neues Kapitel in der Erkennung von Speichersicherheitsfehlern aufgeschlagen. Erfahren Sie, wie dieser Durchbruch die Fehlersuche neu definieren könnte.

Big Sleep, eine Weiterentwicklung von Googles Project Naptime, war entwickelt durch eine Zusammenarbeit zwischen Googles Project Zero und DeepMind. Seine Fähigkeit, Code-Commits zu analysieren und Fehler zu lokalisieren, die zuvor mit herkömmlichen Fuzzing-Methoden nicht erkannt wurden, eröffnet einen neuen Ansatz zur Identifizierung komplexer Schwachstellen.

Was ist das Big Sleep AI-Tool?

Großer Schlaf ist Googles experimentelles KI-Tool zur Fehlersuche, das die Fähigkeiten von LLMs nutzt, um Schwachstellen in Software zu identifizieren. Google hat dieses Tool entwickelt, um über traditionelle Techniken wie Fuzzing hinauszugehen, indem es menschliches Verhalten simuliert und Code auf einer tieferen Ebene versteht. Im Gegensatz zum Fuzzing, bei dem Daten nach dem Zufallsprinzip eingefügt werden, um Softwarefehler auszulösen, dient die Codeüberprüfung von Big Sleep dazu, potenzielle Sicherheitsbedrohungen zu erkennen.

Im Oktober 2024 identifizierte Big Sleep erfolgreich eine Schwachstelle durch Stapelpufferunterlauf in SQLite. Wenn dieser Fehler nicht behoben wurde, hätte er es Angreifern ermöglichen können, die SQLite-Datenbank zum Absturz zu bringen oder möglicherweise beliebigen Code auszuführen. Die Entdeckung ist bemerkenswert, weil sie in einer Vorabversion von SQLite gemacht wurde, wodurch sichergestellt wurde, dass die Schwachstelle gepatcht wurde, bevor sie die Benutzer erreichte.

Wie Big Sleep die SQLite-Schwachstelle entdeckte

Google hat Big Sleep damit beauftragt, die jüngsten Commits für den SQLite-Quellcode zu analysieren. Die KI durchforstete die Änderungen, unterstützt durch eine maßgeschneiderte Eingabeaufforderung, die den Kontext für jede Codeänderung bereitstellte. Durch die Ausführung von Python-Skripten und Sandbox-Debugging-Sitzungen identifizierte Big Sleep einen subtilen Fehler: einen im Code verwendeten negativen Index „-1“, der einen Absturz verursachen oder möglicherweise die Codeausführung ermöglichen könnte.

Das Big Sleep-Team hat diesen Entdeckungsprozess in einem aktuellen Blogbeitrag dokumentiert und erklärt, wie der KI-Agent jeden Commit bewertete, auf Code-Schwachstellen testete und dann die Ursache des Fehlers ermittelte. Diese Schwachstelle mit Stapelpufferunterlauf, kategorisiert als CWE-787, entsteht, wenn Software auf Speicherorte außerhalb der zugewiesenen Puffer verweist, was zu instabilem Verhalten oder der Ausführung willkürlichen Codes führt.

Warum diese Entdeckung für die Cybersicherheit wichtig ist

• Die Fuzzing-Lücke füllen: Fuzzing ist zwar effektiv, hat aber Grenzen. Es fällt ihm schwer, komplexe, tief verwurzelte Fehler in der Software aufzudecken. Googles Big Sleep zielt darauf ab, diese Lücken zu schließen, indem es LLMs verwendet, um Code zu „verstehen“, anstatt nur zufällige Fehler auszulösen.
• Fehlererkennung in Echtzeit: Die Fähigkeit von Big Sleep, Schwachstellen während der Codeentwicklung zu erkennen, verringert die Wahrscheinlichkeit, dass Fehler in die Produktion gelangen. Durch die Identifizierung von Schwachstellen vor der Veröffentlichung minimiert Big Sleep potenzielle Exploit-Fenster für Angreifer.
• Automatisierte Sicherheit im großen Maßstab: Die herkömmliche Fehlersuche erfordert viel menschliches Fachwissen und viel Zeit. Big Sleep könnte mit seinem KI-gesteuerten Ansatz die Fehlererkennung demokratisieren, indem es den Prozess automatisiert und beschleunigt.

Wie Big Sleep im Vergleich zu anderen KI-gestützten Sicherheitstools abschneidet

Google behauptet, dass der Schwerpunkt von Big Sleep auf der Erkennung von Speichersicherheitsproblemen in weit verbreiteter Software liegt, ein Bereich, der für herkömmliche KI-Tools oft eine Herausforderung darstellt. Beispielsweise ist Vulnhuntr von Protect AI, ein von Claude von Anthropic unterstütztes KI-Tool, darauf ausgelegt, Zero-Day-Schwachstellen in Python-Codebasen zu erkennen, konzentriert sich jedoch auf nicht speicherbezogene Fehler. Einem Google-Sprecher zufolge „entdeckte Big Sleep das erste unbekannte ausnutzbare Speichersicherheitsproblem in weit verbreiteter, realer Software.“

Indem Big Sleep und Vulnhuntr auf bestimmte Fehlertypen abzielen, ergänzen sie sich gegenseitig und deuten auf eine Zukunft hin, in der KI-gestützte Agenten sich auf verschiedene Aspekte der Cybersicherheit spezialisieren können.

Google betrachtet den Erfolg von Big Sleep als einen wichtigen Schritt in Richtung Integration KI in die Cybersicherheit Abwehrkräfte. Das Big Sleep-Team von Google erklärte: „Wir glauben, dass diese Arbeit ein enormes Verteidigungspotenzial hat.“ Fuzzing hat erheblich geholfen, aber wir brauchen einen Ansatz, der Verteidigern helfen kann, die Fehler zu finden, die durch Fuzzing nur schwer (oder gar nicht) zu finden sind.“

Das Team betonte die Bedeutung von KI für präventive Sicherheitsmaßnahmen, bei denen Schwachstellen identifiziert und behoben werden, bevor Angreifer sie entdecken können.

Experimenteller Charakter von Big Sleep

Während der Erfolg von Big Sleep bei der Erkennung der SQLite-Schwachstelle vielversprechend ist, hat Google festgestellt, dass die Technologie noch experimentell ist. Das KI-Modell wird noch verfeinert, und das Team räumte ein, dass ein zielspezifischer Fuzzer in bestimmten Fällen seine aktuellen Fähigkeiten erreichen oder übertreffen könnte.

Trotz dieser Vorbehalte bleibt das Team optimistisch und betrachtet dies als den Beginn einer größeren Rolle der KI bei der Erkennung von Schwachstellen. Durch kontinuierliches Testen der Fähigkeiten von Big Sleep auf bekannte und unbekannte Schwachstellen möchte Google seine Fähigkeiten zur Fehlersuche verbessern und es möglicherweise zu einem wichtigen Tool für Entwickler und Sicherheitsteams weltweit machen.

KI in der Cybersicherheit

Die erfolgreiche SQLite-Schwachstellenerkennung von Big Sleep könnte ein Zeichen für einen Paradigmenwechsel in der Cybersicherheit sein, bei dem KI-Agenten Sicherheitsprobleme autonom identifizieren und beheben. Dieser Übergang zu automatisierten Sicherheitsmaßnahmen könnte einen beispiellosen Schutz bieten und die Lücke zwischen Fehlererkennung und -ausnutzung schließen.

1. Präventive Fehlererkennung: KI-gesteuerte Tools wie Big Sleep stellen einen proaktiven Sicherheitsansatz dar. Durch die Identifizierung von Schwachstellen vor der Veröffentlichung der Software können diese Tools Zero-Day-Exploits verhindern und das Risiko für Endbenutzer verringern.
2. Kostengünstige Sicherheit: Die herkömmliche Fehlersuche ist kostspielig und zeitaufwändig. KI-Lösungen könnten Sicherheitsprozesse rationalisieren und die Erkennung von Schwachstellen schneller, skalierbarer und möglicherweise kostengünstiger machen.
3. Kontinuierliche Verbesserung: Da sich KI-gestützte Tools wie Big Sleep weiterentwickeln, werden sie ihre Fähigkeit verbessern, Codestrukturen zu verstehen und zu analysieren, was zu einer umfassenderen Schwachstellenerkennung in realen Anwendungen führt.

Bildnachweis: Kerem Gülen/Ideogramm