OpenAI hat ChatGPT Atlas auf den Markt gebracht, einen neuen Webbrowser, der eine Chatbot-Schnittstelle integriert, eine Veröffentlichung, die bei Forschern unmittelbare Sicherheits- und Datenschutzbedenken hervorgerufen hat. Der Browser, der wie eine abgespaltene Version von Chromium mit Chatbot-Funktion aussieht, stellt einen Versuch dar, die Internetnavigation neu zu definieren. Die Entwicklung eines Webbrowsers richtet sich nach dem Wert der Daten, auf die er zugreifen kann. Browser sind Speicher für riesige Mengen an Benutzerinformationen, die von den spezifischen Websites, die Menschen besuchen, bis zu ihren gespeicherten Passwörtern und Zahlungsinformationen reichen können. Sie sammeln auch Telemetriedaten, die Details zum Benutzerverhalten liefern, beispielsweise darüber, wo sie auf eine Seite klicken. OpenAI hat diese Datenerfassungsfunktion als zentrales Merkmal von positioniert ChatGPT-Atlas Browser. Ein Hauptbestandteil dieser Strategie ist eine Funktion namens „Erinnerungen“, die als deutlich erweiterte Version eines Standard-Webprotokolls fungiert. Es dient dazu, kontextbezogene Informationen über die Websites, die ein Benutzer besucht, und die Dokumente, mit denen er interagiert, abzurufen. Der erklärte Zweck dieser Funktion besteht darin, Benutzern die Navigation im Web über eine Konversationsschnittstelle zu ermöglichen und es ihnen zu ermöglichen, Informationen zu finden, indem sie sie in menschlicher Sprache beschreiben, anstatt präzise URLs oder Schlüsselwörter zu verwenden. Die Datenschutz- und Datenkontrollen des Browsers offenbaren, wie die Washington Post feststellt, Einzelheiten darüber, was das Unternehmen sammelt und speichert. Die Funktion „Erinnerungen“ ist standardmäßig aktiviert, was bedeutet, dass OpenAI ab dem Zeitpunkt der Installation Details zu besuchten Websites, Benutzerinteraktionsmustern und Präferenzen speichert. Das System ist so konzipiert, dass es sich bestimmte vertrauliche Informationen nicht merkt. Die Ausschlussliste umfasst personenbezogene Daten wie amtliche Ausweise, Sozialversicherungsnummern, Bankkontodaten, Online-Zugangsdaten, Inhalte zur Kontowiederherstellung und Adressen. Es sind auch Filter vorhanden, um private Daten wie Krankenakten und Finanzinformationen auszuschließen. Obwohl der Browser Zusammenfassungen der besuchten Websites erstellt, ist er so programmiert, dass er keine Informationen von „bestimmten sensiblen Websites (wie Websites für Erwachsene)“ speichert. Benutzern wird eine manuelle Überschreibungsoption zur Verfügung gestellt, um bestimmte Seiten einzeln auszuschließen, indem sie eine Schaltfläche „Seitensichtbarkeit“ in der Adressleiste verwenden. ChatGPT Atlas enthält außerdem einen KI-Agenten, der im Internet surfen und Aufgaben im Namen des Benutzers erledigen kann, eine Funktion, die in früheren Anwendungen zu Sicherheitsproblemen geführt hat. Anfang des Jahres wurde der Perplexity Comet-Browser durch einfache Prompt-Injection-Angriffe kompromittiert, bei denen versteckter Text auf einer Website seinen KI-Agenten kapern konnte. In einer öffentlichen Demonstration zwangen Sicherheitsforscher den Agenten, die Anmeldeinformationen einer Person preiszugeben, und konnten dann erfolgreich einen Authentifizierungscode abrufen und weitergeben. Der Programmierer und Sicherheitsforscher Simon Willison warnte vor dieser Technologie. In einem Blogbeitrag schrieb er: „Ich würde gerne eine ausführliche Erklärung der Schritte sehen, die Atlas unternimmt, um Prompt-Injection-Angriffe zu verhindern. Im Moment sieht es so aus, als ob die Hauptverteidigung darin besteht, dass der Benutzer jederzeit genau beobachtet, was der Agent-Modus tut!“ Willison bezeichnete auch die umfassenderen Sicherheits- und Datenschutzrisiken, die mit solchen Browser-Agenten verbunden sind, als „unüberwindbar hoch“. Weniger als 24 Stunden nach dem Start wurde von einem Hacker eine Schwachstelle in Atlas entdeckt. Ein Twitter-Benutzer mit dem Benutzernamen @elder_plinius demonstrierte, wie anfällig der Atlas Agent für einen „Clipboard-Injection“-Angriff ist. Bei dieser Methode wird der Agent dazu verleitet, einen schädlichen Link zu kopieren, der später vom Benutzer eingefügt werden kann und ihn zu einer Phishing-Website führt, die darauf abzielt, Anmeldeinformationen zu stehlen. Die schnelle Entdeckung dieser Schwachstelle hat die Warnungen von Experten vor dem Potenzial „schluchtgroßer“ Datenschutz- und Sicherheitslücken in KI-gestützten Browsern verstärkt. Eight Sleep, ein im Artikel erwähntes Partnerunternehmen, reagierte nicht auf eine Bitte um Stellungnahme. Das Quellenmaterial hebt hervor, dass der Atlas-Browser mehr Informationen über Benutzer und ihre Gewohnheiten sammelt, um ein ausgeklügeltes Überwachungssystem für die Personalisierung zu schaffen. Zusammen mit den identifizierten Sicherheitslücken wird dies als „potenziell katastrophale Kombination“ beschrieben.
