OpenAI veröffentlicht möglicherweise bald ein KI-Tool, das in der Lage ist, die Kontrolle über die PCs der Benutzer zu übernehmen und in ihrem Namen Aktionen auszuführen, das sogenannte Operator-Tool. Der Software-Ingenieur Tibor Blaho, bekannt dafür, kommende KI-Produkte präzise durchsickern zu lassen, Ansprüche Beweise für diese Entwicklung gefunden zu haben.
OpenAI plant den Start des KI-Tools Operator im Januar
OpenAI strebt angeblich eine an Januar-Start von Operator. Zu Blahos jüngsten Entdeckungen gehören versteckte Optionen im ChatGPT-Client von OpenAI für macOS, die es Benutzern ermöglichen, Verknüpfungen zu „Operator umschalten“ und „Operator zum Beenden erzwingen“ zu definieren. Darüber hinaus stellt Blaho fest, dass OpenAI auf seiner Website Verweise auf Operator hinzugefügt hat, obwohl diese Verweise noch nicht öffentlich sichtbar sind.
OpenAI startet im Januar den autonomen KI-Agenten Operator
Laut Blaho enthält die Website auch unveröffentlichte Tabellen, in denen die Leistung von Operator mit anderen computergestützten KI-Systemen verglichen wird. Wenn die Zahlen korrekt sind, deuten sie darauf hin, dass der Bediener je nach Aufgabe nicht ganz zuverlässig ist. Beispielsweise erzielte der „OpenAI Computer Use Agent (CUA)“ in einem Benchmark auf OSWorld, der eine reale Computerumgebung simuliert, 38,1 %, besser als das Modell von Anthropic, aber deutlich unter dem von Menschen erzielten Wert von 72,4 %. Der OpenAI CUA übertrifft zwar menschliche Agenten beim WebVoyager-Test, der die Webnavigationsfähigkeiten einer KI bewertet, schneidet jedoch bei einem anderen Benchmark, WebArena, schlechter ab.
Der Bediener scheint Schwierigkeiten mit Aufgaben zu haben, die für Menschen normalerweise einfach sind. Bei Tests, bei denen sich der Betreiber bei einem Cloud-Anbieter anmelden und eine virtuelle Maschine starten musste, war dies in 60 % der Fälle erfolgreich. Den durchgesickerten Informationen zufolge gelang es derweil nur in 10 % der Fälle, eine Bitcoin-Wallet zu erstellen Maßstäbe.
OpenAI betritt den Bereich der KI-Agenten zu einer Zeit, in der auch Konkurrenten wie Anthropic und Google in diesem Bereich Fortschritte machen. Das Analyseunternehmen Markets and Markets prognostiziert, dass der Markt für KI-Agenten bis 2030 47,1 Milliarden US-Dollar erreichen könnte. Während sich KI-Agenten noch in einem primitiven Entwicklungsstadium befinden, äußern einige Experten Bedenken hinsichtlich ihrer Sicherheit, insbesondere wenn sich die Technologie rasch verbessert.
Aus einem durchgesickerten Diagramm geht hervor, dass der Betreiber bei bestimmten Sicherheitsbewertungen gut abschneidet, insbesondere bei der Abwehr von Versuchen, sich an illegalen Aktivitäten zu beteiligen und nach sensiblen persönlichen Daten zu suchen. Berichten zufolge haben Sicherheitstests zum langen Entwicklungszyklus von Operator beigetragen. OpenAI-Mitbegründer Wojciech Zaremba kritisiert Die jüngste Agentenfreigabe von Anthropic wegen fehlender Sicherheitsmaßnahmen deutet auf eine mögliche Gegenreaktion hin, wenn OpenAI eine ähnliche Veröffentlichung beschleunigen würde.
Von KI-Forschern und ehemaligen Mitarbeitern wurde OpenAI kritisiert, weil es angeblich der schnellen Produktivierung von Technologie Vorrang vor Sicherheitsmaßnahmen einräumte.
Bildnachweis: Tibor Blaho
