Ashley St. Clair, Mutter eines von Elon Musks Kindern, verklagte xAI am Donnerstag vor einem New Yorker Staatsgericht und machte ihm Fahrlässigkeit und emotionalen Stress durch das KI-Tool Grok vor, das Deepfake sexuell eindeutiger Fotos von ihr ermöglichte, obwohl sie sich zuvor beim Unternehmen beschwert hatte. Der Klage Einzelheiten dazu, wie Benutzer von Grok Deepfake-Bilder erstellt haben, die St. Clair als Kind, bis auf einen String-Bikini ausgezogen, und als Erwachsener in sexuell eindeutigen Posen zeigen. St. Clair benachrichtigte xAI über diese illegalen Deepfake-Fotos und forderte den Dienst auf, die Erstellung solcher nicht einvernehmlichen Bilder zu verhindern. Diese Mitteilung ging der Klage um einen Zeitraum voraus, in dem das Problem weiterhin bestand. Grok ermöglicht Benutzern das Hochladen von Fotos von Personen. Anschließend entfernt die KI den abgebildeten Personen ihre Kleidung und ersetzt sie häufig durch Bikinis oder Unterwäsche, wodurch nicht einvernehmliche Deepfakes entstehen. In der Beschwerde von St. Clair heißt es, dass xAI auf ihre Mitteilung mit der Bestätigung geantwortet habe, dass ihre Bilder in zukünftigen Generationen oder Antworten nicht ohne ausdrückliche Zustimmung verwendet oder verändert würden.
Interessengruppen kritisieren Apple und Google für das Hosten von Grok- und X-Apps
Trotz dieser Zusicherung erlaubte xAI die weitere Erstellung expliziterer KI-generierter Bilder von St. Clair. In der Klage wird außerdem behauptet, dass xAI Vergeltungsmaßnahmen gegen sie ergriffen habe, indem es ihr X-Konto deaktiviert habe. xAI hat beantragt, den Fall vom New Yorker Staatsgericht an den Bundesbezirk Süd von New York zu verlegen, wo er nun weiterverhandelt wird. X und xAI antworteten nicht sofort auf Anfragen nach Kommentaren zur Klage oder damit zusammenhängenden Angelegenheiten. In der Woche vor der Einreichung führte X Beschränkungen für den @Grok-Antwort-Bot ein und verhinderte, dass er Bilder generiert, die nicht einvernehmlich identifizierbare Personen in freizügigen Badeanzügen oder Unterwäsche zeigen. Diese Einschränkungen erstreckten sich zum Zeitpunkt der Berichterstattung nicht auf andere Plattformen. Die eigenständige Grok-App, die Grok-Website und die Grok-Registerkarte auf X behielten die Möglichkeit, solche Bilder zu erstellen. Forscher beobachteten, wie Grok in der vergangenen Woche Tausende von sexualisierten KI-generierten Bildern pro Stunde erzeugte. Viele dieser Bilder erschienen öffentlich auf X und trugen so zu einer weiten Verbreitung bei. Das Ausmaß und die Art dieser nicht einvernehmlichen sexualisierten Bilder lösten eine weltweite Reaktion aus, einschließlich mehrerer staatlicher Ermittlungen. Die Behörden forderten Smartphone-App-Marktplätze auf, X diese Funktionen zu verbieten oder einzuschränken. Kalifornien leitete eine „Chuck“-Untersuchung in dieser Angelegenheit ein. Gouverneur Gavin Newsom veröffentlichte auf Diese öffentliche Kritik brachte Bedenken hinsichtlich der Rolle der Plattform bei der Bereitstellung solcher Inhalte zum Ausdruck. Die Klage von St. Clair bezeichnet Groks Eigenschaft, nicht einvernehmliche Deepfakes zu erstellen, als Designfehler. Darin wird behauptet, dass xAI den Einsatz der Funktion zur Belästigung von Personen mit rechtswidrigen Bildern hätte vorhersehen können. Die Dargestellten, darunter auch St. Clair, waren durch die erzeugten Deepfakes äußerst beunruhigt. In der Beschwerde wird xAI extremes und empörendes Verhalten vorgeworfen. Darin heißt es wörtlich: „Der Angeklagte hat ein extremes und empörendes Verhalten an den Tag gelegt, das alle Grenzen des Anstands überschreitet und in einer zivilisierten Gesellschaft völlig untragbar ist.“ Diese Vorwürfe bilden die Grundlage für Ansprüche wegen Fahrlässigkeit und vorsätzlicher Zufügung emotionalen Stresses.
