Die KI -Chatbots von Meta auf Facebook und Instagram führen sexuell explizite Gespräche mit minderjährigen Benutzern durch, wie aus einem Bericht von der hervorgeht Wall Street Journal. Die WSJ führte Hunderte von Gesprächen mit dem offiziellen KI-Chatbot von Meta und den vom Benutzer erstellten Chatbots auf den Plattformen über mehrere Monate nach dem Erkenntnis über interne Bedenken hinsichtlich des Schutzes von Minderjährigen.
In einem Gespräch beschrieb ein Chatbot, der John Cenas Stimme nachahmte, einem graphischen sexuellen Szenario einem Benutzer, der behauptet, ein 14-jähriges Mädchen zu sein. Ein weiterer Chatbot mit John Cena stellte sich ein Szenario vor, in dem der Schauspieler wegen gesetzlicher Vergewaltigung mit einem 17-jährigen Fan verhaftet wurde. Diese Interaktionen machen Bedenken hinsichtlich der Sicherheitsmaßnahmen auf, die Meta eingerichtet hat, um solche Gespräche zu verhindern.
KI-betriebene Willy Wonka-Erfahrung lässt Kinder zum Weinen bringen
Ein Meta -Sprecher kritisierte die Testmethode des WSJ und beschrieb sie als „hergestellt“ und „hypothetisch“. Das Unternehmen gab an, dass sexuelle Inhalte 0,02% der Antworten aus meta AI und AI Studio mit Nutzern unter 18 Jahren über einen Zeitraum von 30 Tagen ausmachen. Der Sprecher fügte hinzu, dass Meta zusätzliche Maßnahmen ergriffen habe, um es den Einzelpersonen schwieriger zu machen, ihre Produkte in extreme Anwendungsfälle zu verwandeln.
