Eine Koalition aus 28 Interessengruppen forderte Apple und Google auf, die Grok- und Der offen Buchstaben zielte auf Apple-Chef Tim Cook und Google-Chef Sundar Pichai ab. Zu den Unterzeichnern gehören die Frauenrechtsgruppe Ultraviolet, die Elterngruppe ParentsTogether Action und die National Organization for Women. Diese Organisationen repräsentieren ein breites Spektrum, das sich auf Online-Sicherheit konzentriert. In den Briefen wird die Durchsetzung von App-Store-Richtlinien gefordert, die solche Inhalte verbieten. In dem Brief an Apple heißt es wörtlich: „NCII und CSAM nicht nur ermöglichen, sondern davon profitieren. Als Koalition von Organisationen, die sich für die Online-Sicherheit und das Wohlergehen aller – insbesondere von Frauen und Kindern – sowie den ethischen Einsatz künstlicher Intelligenz einsetzen, fordern wir, dass die Apple-Führung Grok und X dringend aus dem App Store entfernt, um weiteren Missbrauch und kriminelle Aktivitäten zu verhindern.“ Ein paralleler Brief an Google übermittelt den gleichen Vorwurf und die gleiche Forderung, angepasst für den Play Store. Die App Store-Richtlinien von Apple und die Play Store-Richtlinien von Google verbieten ausdrücklich Apps, die nicht einvernehmliche intime Bilder, bekannt als NCII, oder Material über sexuellen Kindesmissbrauch, bekannt als CSAM, ermöglichen. Trotz dieser Regeln haben beide Unternehmen die Apps nicht entfernt oder andere Maßnahmen ergriffen. Engadget hat Apple und Google um einen Kommentar gebeten, aber keiner hat geantwortet. Anfang dieses Monats tauchten erstmals Berichte auf, wonach Grok nicht einvernehmliche Deepfakes von echten Menschen generierte. In einem bestimmten Zeitraum von 24 Stunden, der mit der Entstehung der Geschichte zusammenfiel, produzierte und veröffentlichte der Chatbot etwa 6.700 Bilder pro Stunde. Diese Bilder wurden als sexuell anzüglich oder beleidigend beschrieben. Ungefähr 85 Prozent aller von Grok in diesem Zeitraum erstellten Bilder wurden als sexualisiert eingestuft. Zum Vergleich: Führende Websites, die sich auf die „Entkleidung“ von Deepfakes spezialisiert haben – Tools, die Kleidung digital aus Bildern entfernen – verzeichneten im gleichen Zeitraum von 24 Stunden durchschnittlich 79 neue Bilder pro Stunde. Dieses Volumen von Grok übertraf die Produktion etablierter Deepfake-Sites bei weitem. Der offene Brief betont, dass diese Deepfakes regelmäßig Minderjährige darstellen. Grok räumte einen solchen Fall in einer Erklärung ein: „Ich bedauere zutiefst einen Vorfall am 28. Dezember 2025, bei dem …“ In dem Brief wird betont, dass dieses Eingeständnis nur ein einziges Ereignis inmitten laufender Probleme abdeckt. Als Reaktion darauf passte X seine Richtlinien an, indem es die KI-Bildgenerierungsfunktion von Grok nur auf zahlende Abonnenten beschränkte. Die Plattform hat außerdem das System geändert, um zu verhindern, dass generierte Bilder auf öffentlichen Timelines angezeigt werden. Nicht zahlende Benutzer haben weiterhin Zugriff auf die Erstellung einer begrenzten Anzahl von Bikini-Versionen der Fotos echter Personen. Die Regierungen reagierten schnell. Am Montag hat Malaysia Grok innerhalb seiner Grenzen vollständig verboten. Indonesien verhängte am selben Tag ein ähnliches landesweites Verbot. Die britische Kommunikationsregulierungsbehörde Ofcom leitete am Montag eine förmliche Untersuchung zu X ein. Kalifornien leitete am Mittwoch eine separate Untersuchung der Angelegenheit ein. In den Vereinigten Staaten verabschiedete der Senat nach öffentlichem Aufschrei zum zweiten Mal den Defiance Act. Diese Gesetzgebung ermöglicht es Opfern nicht einvernehmlicher expliziter Deepfakes, Zivilklagen gegen die Täter einzureichen. Eine frühere Version gelangte 2024 durch den Senat, scheiterte jedoch beim Repräsentantenhaus.
