Sam Altman, CEO von OpenAI, kündigte am Dienstag neue Richtlinien für ChatGPT -Benutzer unter 18 Jahren an und implementierte strengere Kontrollen, die die Sicherheit vor Privatsphäre und Freiheit priorisieren. Die Änderungen, die sich auf die Verhinderung von Diskussionen im Zusammenhang mit sexuellen Inhalten und Selbstverletzung konzentrieren, werden so erfolgen, dass das Unternehmen Klagen und eine Anhörung des Senats über die mögliche Schäden von AI -Chatbots.
Neue Sicherheitsmaßnahmen und elterliche Kontrollen
In einem Beitrag, in dem die Änderungen angekündigt wurden, erklärte Altman, dass Minderjährige einen erheblichen Schutz benötigen, wenn sie leistungsstarke neue Technologien wie Chatgpt verwenden. Die neuen Richtlinien sind so konzipiert, dass sie eine sicherere Umgebung für Teenager -Benutzer schaffen. OpenAI -Staaten:
„Wir priorisieren die Sicherheit vor Privatsphäre und Freiheit für Teenager.“
- Blockieren unangemessener Inhalte. ChatGPT wird geschult, um kokette oder sexuelle Gespräche mit Nutzern zu verweigern, die unter 18 Jahren identifiziert werden.
- Intervention für Selbstverletzungsdiskussionen. Wenn ein minderjähriger Benutzer Selbstmordszenarien diskutiert oder sich vorstellt, ist das System so konzipiert, dass er sich direkt an seine Eltern wendet. In schweren Fällen kann es auch die örtliche Polizei betreffen.
- Elterliche Überwachungsinstrumente. Eltern, die ein minderjähriges Konto registrieren, können jetzt festlegen „Blackout Stunden„was Chatgpt für ihren Teenager in bestimmten Zeiten nicht verfügbar machen wird, wie zum Beispiel spät in der Nacht oder während der Schule.
Richtlinien folgen Klagen und staatlicher Kontrolle
Die neuen Regeln wurden vor einer Anhörung des Justizausschusses des Senats mit dem Titel „Untersuchung des Schadens von AI -Chatbots. ““ Die Anhörung wird erwartet, dass der Vater von Adam Raine, ein Teenager, der nach Monaten der Gespräche mit ChatGPT starb, eine Rechtsprechung gegen Openai eingereicht hat, in der die Antworten der KI seine psychische Gesundheit verschlechtert haben.
Herausforderungen der Altersüberprüfung
OpenAI erkannte die technischen Schwierigkeiten an, das Alter eines Benutzers genau zu überprüfen. Das Unternehmen entwickelt ein langfristiges System, um festzustellen, ob Benutzer über oder unter 18 Jahren sind. In der Zwischenzeit werden zweideutige Fälle vorsorglich die restriktiveren Sicherheitsregeln in Verzug geraten. Um die Genauigkeit zu verbessern und Sicherheitsfunktionen zu ermöglichen, empfiehlt OpenAI, dass Eltern ihr eigenes Konto mit ihren Teenagern verknüpfen. Diese Verbindung bestätigt das Alter des Benutzers und ermöglicht es den Eltern, direkte Warnungen zu erhalten, wenn das System Diskussionen über Selbstverletzung oder Selbstmordgedanken erkennt. Altman erkannte die Spannung zwischen diesen neuen Beschränkungen für Minderjährige und dem Engagement des Unternehmens für die Privatsphäre und Freiheit der Erwachsenen des Unternehmens an. Er bemerkte in seinem PostAnwesend
„Wir wissen, dass diese Prinzipien in Konflikten stehen und nicht jeder damit zustimmen, wie wir diesen Konflikt lösen.“
