Eine Koalition von US-Senatoren hat eine Untersuchung zu X, Meta, Alphabet, Snap, Reddit und TikTok eingeleitet und fordert, dass sie erklären, wie sie die Verbreitung nicht einvernehmlicher, sexualisierter Deepfakes bekämpfen. In einer formellen Form Briefwiesen Gesetzgeber – darunter die Senatoren Lisa Blunt Rochester und Richard Blumenthal – die Unternehmen an, alle internen Dokumente im Zusammenhang mit der Erstellung, Erkennung und Monetarisierung von KI-generierten expliziten Inhalten aufzubewahren. Die Untersuchung stellt fest, dass viele Plattformen zwar behaupten, solches Material zu blockieren, die bestehenden Schutzmaßnahmen jedoch praktisch „versagen“, da Benutzer weiterhin Beschränkungen umgehen, um schädliche Bilder zu erstellen.
Diese Kontrolle durch den Kongress folgt heftige Gegenreaktion gegen den Grok-Chatbot von Xmit dem sich kürzlich herausstellte, dass es problemlos Nacktbilder von echten Menschen, auch von Minderjährigen, erzeugen kann. Während X inzwischen Grok aktualisiert hat, um die Bildbearbeitung einzuschränken und „nicht einvernehmliche Nacktheit“ in seinen Bestimmungen zu verbieten, betonen die Senatoren, dass das Problem branchenweit sei. Frühere Vorfälle haben Reddit, TikTok und Meta geplagt und die Gesetzgeber dazu veranlasst, detaillierte Definitionen von „Deepfake“-Richtlinien, spezifische Durchsetzungsdaten und Erklärungen darüber zu fordern, wie Opfer benachrichtigt und geschützt werden.
— Safety (@Safety) January 14, 2026
Als Reaktion auf die Untersuchung bekräftigte Reddit sein striktes Verbot nicht einvernehmlicher intimer Medien und den Einsatz proaktiver Entfernungstools. X verwies auf seine jüngsten technischen Updates, während andere Unternehmen wie Meta und Alphabet noch keine Kommentare abgegeben haben. Die Forderung des Senats kommt inmitten einer sich verschärfenden Regulierungslandschaft, die mit dem jüngsten bundesstaatlichen „Take It Down Act“ und einer neuen Untersuchung zu xAI einhergeht, die der kalifornische Generalstaatsanwalt nur wenige Stunden vor dem Versand des Briefes eingeleitet hat.
