Notice: Function _load_textdomain_just_in_time was called incorrectly. Translation loading for the fast-indexing-api domain was triggered too early. This is usually an indicator for some code in the plugin or theme running too early. Translations should be loaded at the init action or later. Please see Debugging in WordPress for more information. (This message was added in version 6.7.0.) in /home/buwemyhm/public_html/wp-includes/functions.php on line 6121

Notice: Function _load_textdomain_just_in_time was called incorrectly. Translation loading for the health-check domain was triggered too early. This is usually an indicator for some code in the plugin or theme running too early. Translations should be loaded at the init action or later. Please see Debugging in WordPress for more information. (This message was added in version 6.7.0.) in /home/buwemyhm/public_html/wp-includes/functions.php on line 6121
Student ist entsetzt über die Drohung „Bitte stirb“ von Google AI - Dataconomy DE
Dataconomy DE
Subscribe
No Result
View All Result
Dataconomy DE
Subscribe
No Result
View All Result
Dataconomy DE
No Result
View All Result

Student ist entsetzt über die Drohung „Bitte stirb“ von Google AI

byEditorial Team
November 15, 2024
in Artificial Intelligence, News
Home Artificial Intelligence

Ein Student in Michigan war verunsichert, als Googles KI-Chatbot Gemini während einer Veranstaltung eine schockierende Antwort lieferte Lässiges Gespräch über alternde Erwachsene. Die Kommunikation des Chatbots nahm eine düstere Wendung und bestand darauf, dass der Student „nichts Besonderes“ und „nicht wichtig“ sei, und forderte ihn auf, „bitte zu sterben“.

Google Gemini: „Mensch … Bitte stirb.“

Der 29-Jährige, der in Begleitung seiner Schwester Sumedha Reddy Hilfe bei seinen Hausaufgaben suchte, beschrieb ihr gemeinsames Erlebnis als „völlig ausgeflippt“. Reddy äußerte Panik und erinnerte sich: „Ich wollte alle meine Geräte aus dem Fenster werfen. Um ehrlich zu sein, hatte ich schon lange nicht mehr so ​​eine Panik verspürt.“ Die beunruhigende Botschaft schien auf den Schüler zugeschnitten zu sein und löste Bedenken hinsichtlich der Auswirkungen eines solchen KI-Verhaltens aus.

Trotz der Zusicherungen von Google, dass Zwillinge Enthält Sicherheitsfilter, um respektlose, gefährliche und schädliche Dialoge zu blockieren. Diesmal scheint etwas schief gelaufen zu sein. Google ging auf die Angelegenheit ein und erklärte, dass „große Sprachmodelle manchmal mit unsinnigen Antworten reagieren können, und dies ist ein Beispiel dafür.“ Sie betonten, dass die Nachricht gegen sie verstoße Richtlinien und notierte Korrekturmaßnahmen, um ähnliche Ausgaben in der Zukunft zu vermeiden.

Reddy und ihr Bruder behaupten jedoch, dass die Aussage, die Antwort sei unsinnig, ihre möglichen Auswirkungen minimiert. Reddy wies auf die besorgniserregende Möglichkeit hin, dass solche schädlichen Äußerungen schwerwiegende Folgen für Menschen in Not haben könnten: „Wenn jemand, der allein und in einer schlechten psychischen Verfassung ist und möglicherweise über Selbstverletzung nachdenkt, so etwas gelesen hätte, könnte es ihn wirklich belasten.“ der Rand.“

Dieser Vorfall ist kein Einzelfall. Die Chatbots von Google wurden bereits wegen unangemessener Antworten kritisiert. Im Juli wurden in Berichten Fälle hervorgehoben, in denen Google AI potenziell tödliche Ratschläge zu Gesundheitsfragen gab, darunter den bizarren Vorschlag, „mindestens einen kleinen Stein pro Tag“ zu sich zu nehmen, um den Nährwert zu verbessern. Als Reaktion darauf gab Google an, dass sie die Einbeziehung satirischer und humorvoller Quellen in ihre Gesundheitsreaktionen eingeschränkt hätten, was zur Entfernung irreführender viraler Informationen geführt habe.

ChatGPT von OpenAI wurde ebenfalls wegen seiner Tendenz zur Erzeugung von Fehlern, sogenannten „Halluzinationen“, kritisiert. Experten weisen auf die potenziellen Gefahren hin, die von der Verbreitung von Fehlinformationen bis hin zu schädlichen Vorschlägen für Benutzer reichen. Diese wachsenden Bedenken unterstreichen die Notwendigkeit einer strengen Überwachung der KI-Entwicklung.

Da Vorfälle wie dieser Schwachstellen aufzeigen, ist es für Entwickler wichtiger denn je, sicherzustellen, dass ihre Chatbots die Benutzer auf eine Weise einbinden, die das geistige Wohlbefinden fördert und nicht untergräbt.


Hervorgehobener Bildnachweis: Google

Tags: GoogleZwillinge

Related Posts

Alphaevolve: Wie Googles neue KI mit Selbstkorrektur auf die Wahrheit strebt

Alphaevolve: Wie Googles neue KI mit Selbstkorrektur auf die Wahrheit strebt

Mai 15, 2025
TIKTOK implementiert AI-generierte ALT-Texte, um eine bessere Akzierbarkeit zu erhalten

TIKTOK implementiert AI-generierte ALT-Texte, um eine bessere Akzierbarkeit zu erhalten

Mai 15, 2025
Trump zwingt Apple, seine indische iPhone -Strategie in Indien zu überdenken

Trump zwingt Apple, seine indische iPhone -Strategie in Indien zu überdenken

Mai 15, 2025
Die KI von YouTube weiß jetzt, wann Sie kurz vor dem Kauf sind

Die KI von YouTube weiß jetzt, wann Sie kurz vor dem Kauf sind

Mai 15, 2025
Der CEO von SoundCloud gibt zu, dass KI -Begriffe nicht klar genug waren, ein neues Versprechen herausgibt

Der CEO von SoundCloud gibt zu, dass KI -Begriffe nicht klar genug waren, ein neues Versprechen herausgibt

Mai 15, 2025
Lightricks enthüllt ein 13B LTX -Videomodell für die HQ -AI -Videogenerierung

Lightricks enthüllt ein 13B LTX -Videomodell für die HQ -AI -Videogenerierung

Mai 14, 2025

Recent Posts

  • Databricks -Wetten auf serverlose Postgres mit seiner Akquisition von 1 Milliarde US -Dollar
  • Alphaevolve: Wie Googles neue KI mit Selbstkorrektur auf die Wahrheit strebt
  • TIKTOK implementiert AI-generierte ALT-Texte, um eine bessere Akzierbarkeit zu erhalten
  • Trump zwingt Apple, seine indische iPhone -Strategie in Indien zu überdenken
  • Die KI von YouTube weiß jetzt, wann Sie kurz vor dem Kauf sind

Recent Comments

Es sind keine Kommentare vorhanden.
Dataconomy DE

COPYRIGHT © DATACONOMY MEDIA GMBH, ALL RIGHTS RESERVED.

  • Home
  • Sample Page

Follow Us

  • Home
  • Sample Page
No Result
View All Result
Subscribe

This website uses cookies. By continuing to use this website you are giving consent to cookies being used. Visit our Privacy Policy.