OpenAI hat einen achtköpfigen Beirat eingerichtet, um die KI-Sicherheit und das Wohlbefinden der Benutzer zu überwachen. Die Gruppe hat die Aufgabe, Standards für gesunde Interaktionen mit den Technologien der künstlichen Intelligenz des Unternehmens in verschiedenen Altersgruppen zu definieren. Die Bildung des Rates wurde bekannt gegeben, als CEO Sam Altman auf Plattform Altman gab außerdem bekannt, dass ChatGPT damit beginnen würde, mehr Inhalte für Erwachsene, einschließlich Erotik, in Benutzerchats zuzulassen. Diese Entwicklung findet statt, während das Unternehmen mit seiner ersten Klage wegen schuldhafter Tötung konfrontiert wird, in der auch der Vorwurf enthalten ist, dass ChatGPT zum Selbstmord eines jungen Teenagers beigetragen habe. https://twitter.com/sama/status/1978129344598827128 Zu den Mitgliedern des neuen Beirats gehören Wissenschaftler des Digital Wellness Lab des Boston Children’s Hospital und der Digital Mental Health Clinic in Stanford. Die Gruppe besteht außerdem aus Experten mit beruflichem Hintergrund in den Bereichen Psychologie, Psychiatrie und Mensch-Computer-Interaktion, die eine Reihe von Fachkenntnissen in die Aufgabe einbringen. Laut einer aktuellen Studie ist die öffentliche Meinung zum Einsatz von KI für das geistige Wohlbefinden nach wie vor gering YouGov Umfrage. Die Umfrage unter 1.500 Amerikanern ergab, dass nur 11 Prozent offen dafür waren, KI als Instrument zur Verbesserung ihrer psychischen Gesundheit einzusetzen. Ein noch kleinerer Teil der Befragten, nämlich nur 8 Prozent, gab an, dass sie der Technologie für solche Zwecke vertrauen. Unter Experten für psychische Gesundheit haben generative KI-Begleiter ernsthafte Bedenken geäußert. Dazu gehört das Auftreten einer Erkrankung, die als „KI-Psychose“ bei Personen beschrieben wurde, die regelmäßig Chatbot-Begleiter nutzen. Obwohl es keine Beweise für ihre Wirksamkeit gibt, führen KI-Unternehmen weiterhin Produkte für die psychische Gesundheit ein, da sich immer mehr Amerikaner an digitale Plattformen wenden, um Unterstützung zu erhalten und Antworten auf Fragen zur psychischen Gesundheit zu finden. Die Rolle dieser Technologien steht derzeit unter staatlicher Beobachtung. Bundesregulierungsbehörden sind untersuchen die Auswirkungen generativer KI und Chatbot-Begleiter auf die wachsende psychische Krise, insbesondere bei Teenagern. Auf Landesebene haben mehrere Regierungen KI-gestützte Chatbots verboten, die als therapeutische Assistenten beworben werden.
