Cisco Systems Inc. hat eingeführt Projekt CodeGuard, ein Open-Source-Framework zur Sicherung von Software, die mit Codierungsagenten für künstliche Intelligenz entwickelt wurde. Das System integriert Sicherheitskontrollen über den gesamten Softwarelebenszyklus hinweg, um den Code von seiner ersten Erstellung an zu schützen. Das Framework ist so konzipiert, dass es einheitlich und modellunabhängig ist, sodass es mit verschiedenen KI-Tools funktionieren kann. Ziel ist es, „standardmäßig sicheren“ Code bereitzustellen, indem Leitplanken in mehrere Entwicklungsstadien eingebunden werden. Cisco hat das angegeben Projekt CodeGuard ist nicht als Ersatz für technisches Urteil gedacht, sondern dient als „zusätzliche Verteidigungsebene“. Dieser Ansatz ergänzt die menschliche Aufsicht, anstatt sie zu ersetzen, und erhöht die Sicherheit im gesamten KI-gestützten Codierungsprozess. Zum Start enthält CodeGuard einen Kernregelsatz, der aus etablierten Branchenrichtlinien abgeleitet ist, darunter dem Open Worldwide Application Security Project (OWASP) und der Common Weakness Enumeration (CWE). Dieses erste Set zielt auf wiederkehrende Softwarefehler ab. Zu den spezifischen Schwachstellen, die behoben werden, gehören fest codierte Geheimnisse, fehlende oder unzureichende Eingabevalidierung, die Verwendung veralteter kryptografischer Methoden und Abhängigkeiten von Softwarekomponenten, die ihr Lebensende erreicht haben. Diese Regeln werden in bestimmten Phasen der Entwicklung angewendet, um eine kontinuierliche Durchsetzung der Sicherheit zu gewährleisten. Während der Planungs- und Spezifikationsphase lenken sie KI-Agenten in Richtung sichererer Codierungsmuster. Während aktiv Code generiert wird, kann das Framework die Erstellung unsicherer Snippets in Echtzeit blockieren. Nach der Generierung werden die Regeln zur umfassenden Überprüfung und Validierung verwendet. Project CodeGuard bietet außerdem einen von der Community gesteuerten Regelsatz, Übersetzer für beliebte KI-Coding-Agents und Validatoren, um Teams bei der Automatisierung dieser Sicherheitsmaßnahmen zu unterstützen. Cisco betonte, dass diese mehrstufige Methodik von entscheidender Bedeutung ist, da KI-Assistenten zunehmend in den gesamten Software-Lebenszyklus involviert sind, vom Entwurf erster Entwürfe über Gerüstdienste bis hin zum Vorschlag von Code-Korrekturen. Eine einzelne Regel, beispielsweise zur Eingabevalidierung oder Geheimverwaltung, soll jeden Schritt beeinflussen. Dazu gehört, während der Generierung sicherere Alternativen vorzuschlagen, riskante Konstrukte zu kennzeichnen, sobald sie auftauchen, und schließlich zu überprüfen, ob der fertige Code Geheimnisse ordnungsgemäß externalisiert und alle Eingaben bereinigt. Unternehmensvertreter gaben an, dass CodeGuard keine vollkommen sichere Ausgabe garantiere und dass eine Überprüfung durch Fachkollegen und standardmäßige Sicherheitskontrollen weiterhin erforderlich seien. Das Hauptziel des Frameworks besteht darin, die Wahrscheinlichkeit zu verringern, dass „niedrig hängende“ Schwachstellen in Produktionsumgebungen eingeführt werden, da KI die Softwarebereitstellungspläne beschleunigt. Die Roadmap des Unternehmens für das Projekt umfasst eine breitere Sprachabdeckung, Adapter für zusätzliche KI-Codierungsplattformen, automatisierte Regelvalidierung und Feedbackschleifen zur Verfeinerung von Regeln basierend auf der Community-Nutzung. Um diese Entwicklung zu unterstützen, lädt Cisco Sicherheitsingenieure, Entwickler und KI-Forscher ein, an dem Projekt mitzuwirken. Das Unternehmen hat über sein öffentliches Repository die Einreichung neuer Regeln, den Bau zusätzlicher Übersetzer und telemetriegestützter Verbesserungen angefordert.
