Character.AI, ein KI-Unternehmen, beendet den unbefristeten Chatbot-Zugriff für Benutzer unter 18 Jahren bis zum 25. November, um die Sicherheit angesichts von Bedenken hinsichtlich KI-Interaktionen mit Minderjährigen zu erhöhen. Der Ausstieg beginnt mit einem zweistündigen Tageslimit, das schrittweise auf Null sinkt. Das Unternehmen wird mehrere Methoden zur Altersüberprüfung implementieren, um diese Einschränkung durchzusetzen. Dazu gehören ein intern entwickeltes Tool und Lösungen von Drittanbietern wie Persona. In Fällen, in denen sich diese anfänglichen Methoden als unzureichend erweisen, kann Character.AI auf Gesichtserkennungstechnologie und Überprüfungen von Ausweisdokumenten zurückgreifen, um zu bestätigen, dass Benutzer mindestens 18 Jahre alt sind. Dieser politische Wandel ist eine Reaktion auf den Input von Aufsichtsbehörden und Eltern. Es steht im Einklang mit laufenden Initiativen zur Minderung der psychischen Gesundheitsrisiken, die mit der Teilnahme von Teenagern an KI-Gesprächen verbunden sind. Die Aufsichtsbehörden haben Bedenken hinsichtlich der möglichen psychologischen Auswirkungen längerer oder ungefilterter Interaktionen mit Chatbots auf junge Benutzer geäußert.
Nach dem verheerenden Verlust des 14-Jährigen steckt die Charakter-KI in rechtlichen Schwierigkeiten
Character.AI hatte zuvor verschiedene Schutzmaßnahmen zum Schutz Minderjähriger eingeführt. Zu diesen Maßnahmen gehörten ein Tool zur elterlichen Einsicht, das Überwachungsoptionen für Erziehungsberechtigte bietet, gefilterte Zeichen zur Vermeidung unangemessener Inhalte, Einschränkungen für romantische oder intime Dialoge und Benachrichtigungen, die Benutzer über die auf der Plattform verbrachte Zeit informieren. Trotz dieser Maßnahmen verzeichnete das Nutzersegment der unter 18-Jährigen nach der Einführung einen spürbaren Rückgang. Für die Zukunft entwickelt Character.AI eine alternative Plattform, die speziell auf Teenager zugeschnitten ist. Mit dieser neuen Funktion können Benutzer unter 18 Jahren Videos erstellen, Geschichten verfassen und Live-Streams mit KI-Charakteren produzieren. Es wird jedoch jegliche Form von offenen Gesprächsinteraktionen ausgeschlossen, um die festgelegten Grenzen für die Chatbot-Nutzung beizubehalten.
