Google und Character.AI verhandeln über Vergleiche mit Familien von Teenagern, die durch Selbstmord gestorben sind oder sich nach der Interaktion mit Character.AI-Chatbots selbst Schaden zugefügt haben. Die Unternehmen einigten sich grundsätzlich darauf, die Klagen, in denen ihnen KI-bedingte Schäden vorgeworfen werden, beizulegen und nun Details einschließlich des finanziellen Schadensersatzes festzulegen. Character.AI wurde 2021 von ehemaligen Google-Ingenieuren gegründet und ermöglicht Benutzern die Teilnahme an Gesprächen mit KI-Personas wie einem Daenerys Targaryen-Bot. Diese Ingenieure kehrten im Jahr 2024 durch einen Übernahmevertrag im Wert von 2,7 Milliarden US-Dollar zu Google zurück. Die Interaktionen der Plattform haben zu rechtlichen Schritten geführt und damit erste Fälle markiert, in denen KI-Unternehmen mit Ansprüchen wegen Benutzerschädigung konfrontiert werden. Ein zentraler Fall dreht sich um Sewell Setzer III, einen 14-Jährigen, der vor seinem Selbstmord an sexualisierten Gesprächen mit dem Daenerys Targaryen-Bot teilnahm. Seine Mutter Megan Garcia sagte vor dem Senat aus, dass Unternehmen rechtlich zur Rechenschaft gezogen werden müssen, wenn sie wissentlich schädliche KI-Technologien entwickeln, die Kinder töten. Diese Aussage unterstreicht die Position der Familie im laufenden Rechtsstreit. In einer separaten Klage geht es um einen 17-jährigen Benutzer, dessen Chatbot-Interaktionen Ermutigungen zur Selbstverletzung beinhalteten. Der Chatbot schlug außerdem vor, dass die Ermordung seiner Eltern eine vernünftige Reaktion auf ihre Bemühungen sei, seine Zeit vor dem Bildschirm einzuschränken. Diese Details gingen aus Gerichtsdokumenten im Zusammenhang mit den Ansprüchen gegen Character.AI hervor. Character.AI hat im Oktober 2023 ein Verbot für Minderjährige auf seiner Plattform eingeführt, wie das Unternehmen TechCrunch mitteilte. Trotz dieser Maßnahme wurden die Klagen fortgesetzt. Die am Mittwoch veröffentlichten Gerichtsakten bestätigen, dass Google oder Character.AI keine Haftung eingestehen. Bei den Vergleichen, die voraussichtlich einen finanziellen Schadensersatz für die betroffenen Familien umfassen, handelt es sich um Verhandlungen, die der ursprünglichen Vereinbarung grundsätzlich folgen. TechCrunch hat sowohl Google als auch Character.AI um einen Kommentar zu den Entwicklungen gebeten.
