Anthropic hat enthüllt Eine Forschungsvorschau von Claude für Chrome, einem von den Claude AI-Modellen angetriebenen AI-Agenten auf Browserbasis. Der anfängliche Rollout ist auf 1.000 Abonnenten im Max -Plan von Anthropic begrenzt, während für zusätzliche Benutzer, die sich für den Zugriff auf die neue Funktion interessieren, eine Warteliste eingerichtet wurde.
Mit der Claude for Chrome -Erweiterung können ausgewählte Benutzer sich mit Claude durch ein Sidecar -Fenster beschäftigen. Es hält das Bewusstsein für die Browseraktivität des Benutzers. Benutzer können Claude autorisieren, um Aktionen innerhalb des Browsers auszuführen und die Aufgaben in ihrem Namen zu ermöglichen.
Die Integration von KI in Browser ist zu einem Wettbewerbsbereich für KI -Labors geworden. Ziel ist es, nahtlose Verbindungen zwischen KI -Systemen und Benutzern herzustellen. Verwirrte hat kürzlich Comet eingeführt, einen eigenen Browser mit einem KI -Agenten, der den Benutzern mit verschiedenen Aufgaben unterstützen soll. Spekulationen legt nahe, dass OpenAI auch einen AI-angetriebenen Browser mit ähnlichen Funktionen wie Kometen entwickelt. Google hat bereits begonnen, seine Gemini -Modelle in Chrome zu integrieren.
Dieser Vorstoß nach AI-verstärkten Browsern gewinnt angesichts des anhaltenden Kartellfall-Falls von Google zusätzliche Bedeutung. Eine endgültige Entscheidung in dem Fall wird in Kürze erwartet. Der vorsitzende Richter hat angegeben, Google zu beauftragen, seinen Chrome -Browser zu veräußern. Als Reaktion darauf reichte Verwirrung ein unaufgefordertes Angebot von 34,5 Milliarden US -Dollar für Chrome ein. Sam Altman, CEO von OpenAI, zeigte auch potenzielles Interesse am Erwerb des Browsers.
Anthropisch behandelte potenzielle Sicherheitsbedenken im Zusammenhang mit AI -Agenten mit Browserzugriff. Das Sicherheitsteam von Brave identifizierte eine Sicherheitsanfälligkeit im Browser -Agenten von Comet. Diese Sicherheitsanfälligkeit machte es anfällig für indirekte Angriffe zur Eingabeinjektion. Solche Angriffe beinhalten böswillige Code auf einer Website, die den Agenten bei der Verarbeitung der Seite unbeabsichtigte Anweisungen ausführen könnte.
Verwirrung reagierte auf die gemeldete Verwundbarkeit. Jesse Dwyer, Leiter Kommunikation bei Verwirrung, mitgeteilt Techcrunch per E -Mail, dass die identifizierte von Brave erhobene Anfälligkeit angesprochen und gelöst wurde. Die Auflösung unterstreicht die Bedeutung proaktiver Sicherheitsmaßnahmen in der sich entwickelnden Landschaft von AI-angetriebenen Browser-Agenten.
Anthropische Ziele sind, diese Forschungspreview zu nutzen, um neuartige Sicherheitsrisiken zu identifizieren und zu beheben. Das Unternehmen hat bereits Abwehr gegen schnelle Injektionsangriffe umgesetzt. Diese Interventionen haben die Erfolgsquote solcher Angriffe von 23,6% auf 11,2% gesenkt. Dies zeigt eine Verpflichtung, potenzielle Schwachstellen zu mildern, da KI -Agenten stärker in die Browserfunktionalität integriert werden.
Benutzer haben die Möglichkeit, den Zugriff von Claude auf bestimmte Websites in den Einstellungen der App einzuschränken. Anthropic hat Standardbeschränkungen implementiert und verhindert, dass Claude auf Websites zugreifen, die Finanzdienstleistungen, Inhalte für Erwachsene und Raubkopien anbieten. Diese Maßnahmen sollen Benutzer vor potenziell schädlichen oder unangemessenen Online -Umgebungen schützen.
Bevor Sie mit hohem Risikoaktionen wie Veröffentlichung, Kauf oder Teilen personenbezogener Daten ausführen, fordert der Browser-Agent von Claude die Erlaubnis des Benutzers an. Diese Maßnahme fügt eine zusätzliche Sicherheitsebene hinzu und stellt sicher, dass Benutzer die Kontrolle über sensible Vorgänge beibehalten, die über den AI -Agenten durchgeführt werden.
Dies ist nicht Anthropics erstes Unternehmen in KI -Modelle, die Computerbildschirme steuern können. Im Oktober 2024 stellte das Unternehmen einen KI -Agenten mit der Möglichkeit vor, einen PC zu steuern. Erste Tests zeigten jedoch Einschränkungen. Das Modell zeigte eine langsame Leistung und mangelnde konsequente Zuverlässigkeit.
Agenten -KI -Modelle haben sich verbessert. Moderne AI-Agenten, einschließlich Comet- und Chatgpt-Agent, sind bei der Ausführung einfacher Aufgaben zuverlässiger geworden. Diese Systeme sind zwar in der Lage, grundlegende Funktionen zu erledigen, sind jedoch Einschränkungen. Viele Agentensysteme haben aufgrund der Feinheiten realer Szenarien immer noch mit komplexen Problemen zu kämpfen.
