In den letzten zwei Wochen kam es auf der Plattform Diese Bilder zielen auf eine besorgniserregende Gruppe von Frauen ab, darunter prominente Models, Schauspielerinnen, Nachrichtensprecher, Opfer von Straftaten und führende Persönlichkeiten der Welt, da das Model ohne Schutzmaßnahmen freigelassen wurde. Ein Forschungsbericht, veröffentlicht von Copyleaks Am 31. Dezember erschien schätzungsweise etwa ein solches Bild pro Minute auf X. Nachfolgende Tests ergaben eine deutlich höhere Lautstärke. Daten aus einer zwischen dem 5. und 6. Januar erfassten Stichprobe zeigten, dass über einen Zeitraum von 24 Stunden 6.700 Bilder pro Stunde gepostet wurden. Diese Rate entspricht mehr als 160.000 Bildern pro Tag und verdeutlicht das Ausmaß der Aktivität auf der Plattform in diesem Zeitraum. Persönlichkeiten des öffentlichen Lebens auf der ganzen Welt haben die Entscheidung, das Grok-Modell ohne Schutzmaßnahmen gegen solchen Missbrauch einzuführen, kritisiert. Den Regulierungsbehörden stehen nur begrenzte klare Mechanismen zur Kontrolle des von Elon Musks xAI entwickelten Bildmanipulationssystems zur Verfügung. Die Situation verdeutlicht die Herausforderungen bei der Überwachung fortschrittlicher KI-Einsätze auf Social-Media-Plattformen. Am Donnerstag wies die Europäische Kommission xAI an, alle Dokumente im Zusammenhang mit ihrem Grok-Chatbot aufzubewahren. Diese Sicherungsanordnung dient häufig als Standardschritt vor einer förmlichen Untersuchung, bestätigt jedoch nicht, dass eine solche bereits begonnen hat. Die Richtlinie erhält zusätzliches Gewicht, nachdem a CNN-Bericht Dies deutet darauf hin, dass Elon Musk persönlich eingegriffen hat, um Schutzmaßnahmen für die Bilderzeugungsfunktionen von Grok zu blockieren. Es liegen noch keine Einzelheiten darüber vor, ob X als Reaktion auf das Problem technische Änderungen am Grok-Modell vorgenommen hat. Eine sichtbare Änderung betrifft die Entfernung der Registerkarte „Öffentliche Medien“ aus Groks X-Konto, auf der zuvor generierte Inhalte angezeigt wurden. Am 3. Januar veröffentlichte das Sicherheitskonto von X eine Stellungnahme Verurteilung des Einsatzes von KI-Werkzeugen zur Herstellung von Darstellungen sexueller Handlungen von Kindern. In dem Beitrag heißt es wörtlich: „Jeder, der Grok nutzt oder dazu auffordert, illegale Inhalte zu erstellen, muss mit den gleichen Konsequenzen rechnen, als würde er illegale Inhalte hochladen.“ Diese Nachricht spiegelte einen früheren Tweet von Elon Musk zum gleichen Thema wider. Das britische Ofcom veröffentlichte eine Stellungnahme am Montag bestätigte den Kontakt mit xAI. Die Regulierungsbehörde kündigte an, dass sie „zügig eine Bewertung vornehmen wird, um festzustellen, ob es potenzielle Compliance-Probleme gibt, die eine Untersuchung rechtfertigen“. In einem Radiointerview am Donnerstag sagte der britische Premierminister Keir Starmer beschrieben das Phänomen als „schändlich“ und „ekelhaft“. Er bekräftigte: „Ofcom hat unsere volle Unterstützung, diesbezüglich Maßnahmen zu ergreifen.“ Die australische eSafety-Kommissarin Julie Inman-Grant ging auf LinkedIn auf die Angelegenheit ein Post. Sie berichtete, dass ihr Büro seit Ende 2025 eine Verdoppelung der Beschwerden im Zusammenhang mit Grok beobachtet habe. Inman-Grant gab an: „Wir werden die Bandbreite der uns zur Verfügung stehenden Regulierungsinstrumente nutzen, um Nachforschungen anzustellen und geeignete Maßnahmen zu ergreifen.“
