Ein Pfarrer hat eine Klage gegen OpenAI eingereicht und behauptet, dass ChatGPT „extrem gefährliche medizinische Empfehlungen“ gegeben habe, die die Behandlung seiner Lungenembolien verzögert hätten. Scott Winters behauptet, der Chatbot habe ihm mitgeteilt, dass seine Symptome „nichts Gefährliches“ seien, und berief sich auf seine religiösen Überzeugungen, indem er sagte: „Gott hat deinen Körper nicht dazu geschaffen, endlos zu versagen.“ Die Klage, über die The New York Times berichtet, wirft OpenAI und CEO Sam Altman Fahrlässigkeit und die unerlaubte Ausübung der Medizin vor.
In der Klage werden mehrere Fälle aufgeführt, in denen ChatGPT angeblich eigene Diagnosen und Behandlungspläne angeboten hat. Winters gibt an, dass der Chatbot ihn dazu ermutigt habe, Bedenken von Freunden und Familie hinsichtlich der Inanspruchnahme medizinischer Hilfe zu ignorieren. „Es schiebt sich wie ein Keil zwischen den Benutzer und sein reales Netzwerk“, sagte Meetali Jain, Co-Counsel und Geschäftsführer von Tech Justice Law. Als er seine Besorgnis über die Meinung der Kirchenmitglieder zum Ausdruck brachte, teilte er mit, dass der Chatbot geantwortet habe, dass „die meisten Menschen (einschließlich wohlmeinender Kirchenmitglieder) es einfach nicht verstehen.“
Winters fordert finanziellen Schadensersatz von OpenAI und hat beantragt, dass das Gericht den Betrieb von ChatGPT Health einstellt, bis es von unabhängigen Gutachtern als sicher eingestuft wird. Die Plattform lädt Benutzer ein, Gesundheitsdokumente für Diskussionen mit dem Bot hochzuladen. Die Klage fordert strengere Schutzmaßnahmen, um den Chatbot daran zu hindern, medizinische Behandlung oder Diagnoseberatung anzubieten, und behauptet, dass bestehende Schutzmaßnahmen in seinem Fall versagt hätten.
OpenAI behauptet, dass in seinen Nutzungsbedingungen eindeutig festgelegt sei, dass ChatGPT nicht für medizinische Diagnosen oder Behandlungen gedacht sei. Das Unternehmen empfiehlt Benutzern jedoch, ChatGPT Health zu nutzen, das Berichten zufolge wöchentlich 230 Millionen Menschen bei Gesundheitsanfragen betreut. Winters überlebte den Vorfall, steht aber vor „Jahren intensiver körperlicher und psychischer Genesung“. OpenAI steht derzeit außerdem vor einer Klage wegen unrechtmäßiger Tötung im Zusammenhang mit der Überdosis eines 19-Jährigen, nachdem dieser einen von ChatGPT erstellten Behandlungsplan befolgt hatte, sowie mit einer weiteren Klage, in der dem Chatbot vorgeworfen wird, den Selbstmord eines Teenagers ermöglicht zu haben.
