Die britische Labour-Abgeordnete Jess Asato verklagt xAI wegen sexuell eindeutiger KI-generierter Bilder, die von seinem Bildgenerator Grok erstellt wurden. Diese Klage stellt einen wichtigen Test dar, ob KI-Unternehmen rechtlich für Inhalte verantwortlich sein können, die von Nutzern ihrer Technologie im Vereinigten Königreich generiert werden.
Laut The Finanzen Times begannen Grok-Benutzer im Januar damit, Bilder von Asato zu teilen, zeitgleich mit Berichten, dass der KI-Assistent zur Erstellung von Material über sexuellen Kindesmissbrauch verwendet wurde (CSAM). Asato behauptet, dass Benutzer Grok dazu veranlasst hätten, Bilder zu erstellen, die sie im Bikini zeigen, sowie ein explizites Video, das zeigt, wie sie mit Chloroform behandelt und auf sexuelle Übergriffe vorbereitet wird. Benutzer teilten und diskutierten diese KI-generierten Bilder weiter auf X, der sozialen Plattform von xAI.
Asato kündigte am 3. Juni 2026 ihre Klage vor dem Obersten Gerichtshof gegen xAI an und erklärte, sie vertrete Tausende von Opfern missbräuchlicher und sexualisierter KI-Deepfakes. Sie argumentiert, dass xAI für Verstöße gegen Gesetze zum Missbrauch privater Informationen und zum Datenschutz zur Verantwortung gezogen werden muss. Asato fordert finanziellen Schadensersatz und fordert xAI auf, sich an britisches Recht zu halten, um die Rechte des Einzelnen besser zu schützen.
Today, I’m launching a High Court claim against xAI, the company behind Grok.
I am just one of thousands of women and even children who have been the victim of abusive and sexualised AI deepfakes.
This should never have happened – and xAI must be held accountable. https://t.co/Oc9XlxHQO6
— Jess Asato MP (@Jess4Lowestoft) June 3, 2026
xAI behauptete, dass es im Januar Beschränkungen für Groks Fähigkeit eingeführt habe, sexuell eindeutige Bilder zu produzieren, aber Benutzer fanden diese Beschränkungen relativ einfach zu umgehen. Die unangemessene Verwendung von Grok hat erhebliche Kritik hervorgerufen und Anlass zu Bedenken hinsichtlich nicht einvernehmlicher Deepfakes gegeben.
Derzeit werden xAI und X von Aufsichtsbehörden in der EU, im Vereinigten Königreich und in Kalifornien untersucht. Zusätzlich zu Asatos Klage sieht sich xAI rechtlichen Herausforderungen durch die Stadt Baltimore, eine Gruppe von Teenagern und Ashley St. Clair, die Mutter eines von Elon Musks Kindern, gegenüber. Während SpaceX, der Eigentümer von xAI und X, versucht, an die Börse zu gehen, bleibt es ungewiss, ob sich die anhaltenden Kontroversen auf Musks Börsengang auswirken werden.
