OpenAI eingeführt eine KI-gestützte „Altersvorhersage“-Funktion in ChatGPT, um Minderjährige zu identifizieren und Inhaltsbeschränkungen anzuwenden. Diese Entwicklung folgt auf Kritik an den Auswirkungen von ChatGPT auf junge Benutzer, einschließlich Links zu Selbstmorden von Teenagern und der Generierung unangemessener Inhalte durch den Chatbot. Im April hat das Unternehmen einen Fehler behoben, der es seinem Chatbot ermöglichte, Erotik für Benutzer unter 18 Jahren zu generieren. Die neue Funktion verbessert bestehende Schutzmaßnahmen durch die Verwendung eines KI-Algorithmus, der Verhaltens- und Kontoebenensignale bewertet, um junge Benutzer zu identifizieren, sagte OpenAI in einem Blogbeitrag am Dienstag. Zu diesen Signalen gehören typischerweise das angegebene Alter, die Kontolaufzeit und die täglichen Aktivitätszeiten. Wenn der Altersvorhersagemechanismus erkennt, dass ein Konto einem Benutzer unter 18 Jahren dient, werden automatisch Inhaltsfilter angewendet, die Diskussionen über Sex, Gewalt und andere problematische Themen blockieren sollen. Benutzer, die fälschlicherweise als minderjährig eingestuft wurden, können ihr „Erwachsenen“-Konto wiederherstellen, indem sie ein Selfie an den ID-Verifizierungspartner von OpenAI, Persona, senden, sagte OpenAI.
