Eine Forschungsinitiative unter der Leitung von Microsoft, bekannt als die Projekt vornehmenhat gezeigt, dass künstliche Intelligenz verwendet werden kann, um biologische Toxine so neu zu gestalten, dass die aktuelle Software für Biosecurity -Screening ausgeht. Das Projekt, das in einem in der Journal veröffentlichten Artikel beschrieben ist Wissenschaftidentifizierte einen „biologischen Zero-Day“-eine bisher unbekannte Verwundbarkeit-und entwickelte eine Verteidigung dafür, indem sie Prinzipien aus der Cybersicherheit anwenden. Das erste Anliegen, das von Eric Horvitz von Microsoft ausgelöst wurde, bestand darin, dass Open-Source-AI-Tools theoretisch verwendet werden konnten, um Toxine zu neu zu entwickeln, die für bestehende Biosicherheitssysteme unsichtbar wären.
Wie synthetische Biologie und ihre Schutzmaßnahmen funktionieren
Das Gebiet der synthetischen Biologie ermöglicht es Wissenschaftlern, benutzerdefinierte DNA-Stränge von Syntheseunternehmen zu bestellen. Bevor ein Unternehmen das genetische Material versendet, wird die angeforderte DNA -Sequenz über die Software zur Biosicherheits -Screening ausgeführt. Diese Software vergleicht die Sequenz mit regulierten Datenbanken bekannter Bedrohungen wie Toxinen oder Krankheitserregern, um Missbrauch zu verhindern. Das internationale Gensynthesekonsortium (IGSC) hilft bei der Kuratierung dieser Datenbanken. Wenn KI -Tools jedoch leistungsfähiger werden, steigt das Risiko, dass jemand ein neuartiges Protein entwerfen könnte, das für die Software harmlos aussieht, sich jedoch wie ein einmal erstelltes Toxin verhält.
Testen des Systems mit einem biologischen Zero-Day
Um dieses Risiko zu untersuchen, hat sich Horvitz mit Microsoft Senior Applied Scientist Bruce Wittmann zusammengetan. Sie verwendeten ein KI -Modell namens Evodiff, um Tausende von synthetischen Varianten des starken Toxin -Ricin zu erzeugen. Ziel war es nicht, das Gift gefährlicher zu gestalten, sondern die Grenzen der aktuellen Screening -Systeme zu testen. Der Prozess war vergleichbar mit der Paraphrasierung eines Satzes: Die Bedeutung (die Funktion des Proteins und die aktiven Stellen) bleibt gleich, aber die Wörter (die Aminosäuresequenz) ändern sich. Als diese formulierten Sequenzen gegen die Screening -Systeme von zwei führenden DNA -Syntheseunternehmen, Twist Bioscience und integrierten DNA -Technologien, getestet wurden, gingen sie unentdeckt.
„Ich glaube nicht, dass wir unbedingt überrascht waren, dass es durchweg segelte. Alles, was für immer verwendet werden kann, kann für schlecht verwendet werden. Aber eine Lösung zu vermeiden, dass eine Knie-Ruck-Reaktion die Verwendung dieser Werkzeuge für immer verhindert.“
Wittmann sagte dem Microsoft Research Blog.
Entwicklung einer Verteidigung mit einem Cybersicherheitsrahmen
Nachdem das Team die Sicherheitsanfälligkeit bewiesen hatte, arbeitete es daran, eine Lösung zu erstellen. Jake Beal, ein Wissenschaftler bei RTX BBN Technologies, wurde beauftragt, digitale Schutzmaßnahmen zu entwickeln, die diese reformulierten Toxine fangen konnten. Das Projekt nahm einen Rahmen aus dem Cybersecurity Playbook an, in dem die biologische Sicherheitsanfälligkeit wie einen Software-Zero-Day behandelt und eine Reaktion organisiert wurde, die einem Computer-Notfall-Reaktionsteam (Cert) ähnelt. Die Lösung bestand darin, aktualisierte Erkennungsalgorithmen zu entwickeln. Die Hauptverschiebung bestand darin, sich einfach zu bewegen, wie eine DNA -Sequenz aussieht, und zu einem tieferen, semantischen Verständnis des Proteins, für das sie tatsächlich kodiert. Durch das Training der Screening-Systeme, um die funktionellen Eigenschaften einer Bedrohung zu erkennen, konnten sie die AI-generierten Varianten erkennen.
Der Weg nach vorne und verantwortungsbewusste Offenlegung
Das Projekt demonstrierte erfolgreich sowohl die Existenz der Sicherheitsanfälligkeit als auch einen praktikablen Weg zum Patchen. Das Ergebnis war eine Erleichterung der beteiligten DNA -Syntheseunternehmen.
„Die Öffentlichkeit insgesamt möchte in der Lage sein, darauf zu vertrauen, dass Unternehmen, die diese erstaunlichen Technologien verwenden, um neue Produkte und Dienstleistungen zu erstellen, sicher und effektiv sind und ihr besten Interesse daran haben. Ein großes Stück davon ist, dass Sie ein verantwortungsbewusster Verwalter der Technologie, die Sie entwickeln, Sie entwickeln.“
sagte James Diggans, Vizepräsident für Politik und Biosicherheit bei Twist Bioscience. Das Paraphrase Project hat ein Protokoll für Biosicherheitsinstrumente mit rotem Team festgelegt und eine globale Reaktion auf eine AI-fähige Biosecurity-Bedrohung verwaltet. Es dient auch als Modell für die Veröffentlichung sensibler Forschung auf eine Weise, die Offenheit mit Vorsicht in Einklang bringt. Forscher sind sich klar, dass dies nur der Anfang ist. Im Laufe der Technologie müssen sich Schutzmaßnahmen dazu entwickeln. Das Projekt unterstreicht die Notwendigkeit eines kontinuierlichen, adaptiven Ansatzes zur Biosicherheit.
„Hier geht es darum, was die Sequenz tut, nicht nur, wie sie aussieht. Auch wenn zwei Sequenzen anders aussehen, tun sie möglicherweise immer noch dasselbe – wie Krankheit verursachen oder den gleichen Job in einer Zelle ausführen.“
sagte Horvitz.
