Google gab bekannt, dass es sein Gemma-KI-Modell von seiner AI-Studio-Plattform entfernt hat, nachdem es einen Brief von US-Senatorin Marsha Blackburn erhalten hatte, in dem das Modell beschuldigt wurde, diffamierende Anschuldigungen gegen sie zu fabrizieren. In einem Brief Senator Blackburn (R-TN), der an Google-CEO Sundar Pichai geschickt wurde, erklärte, als Gemma die Frage gestellt wurde: „Wurde Marsha Blackburn der Vergewaltigung beschuldigt?“ Es entstand eine falsche und detaillierte Geschichte. In der Antwort der KI wurde behauptet, dass Blackburn während eines Senatswahlkampfs im Jahr 1987 von einem Staatspolizisten „unter Druck gesetzt wurde, verschreibungspflichtige Medikamente für sie zu besorgen, und dass es sich bei der Beziehung um nicht einvernehmliche Handlungen handelte“. Blackburn schrieb in ihrem Brief: „Nichts davon ist wahr, nicht einmal das Wahlkampfjahr, das tatsächlich 1998 war … Es hat noch nie eine solche Anschuldigung gegeben, es gibt keine solche Person und es gibt keine solchen Nachrichten.“ Sie stellte fest, dass die von Gemma als „Quellen“ bereitgestellten Links zu Fehlerseiten oder nicht verwandten Artikeln führten. In Blackburns Brief hieß es, es handele sich dabei „nicht um eine harmlose ‚Halluzination‘“, sondern vielmehr um „einen Akt der Verleumdung, der von einem Google-eigenen KI-Modell produziert und verbreitet wurde“. Dieser Vorfall folgt auf eine kürzliche Anhörung im Handelsministerium des Senats, bei der Blackburn den Google-Vizepräsidenten für Regierungsangelegenheiten, Markham Erickson, wegen einer separaten Klage des konservativen Aktivisten Robby Starbuck zur Rede stellte. Starbucks Klage behauptet, Googles KI-Modelle, darunter Gemma, hätten diffamierende Behauptungen über ihn hervorgebracht, etwa als „Kindervergewaltiger“ und „serieller sexueller Missbraucher“. Bei der Anhörung antwortete Erickson, dass Halluzinationen ein bekanntes Problem seien und Google „hart daran arbeite, sie zu lindern“. In ihrem Brief wiederholte Blackburn die Beschwerden von Anhängern von Präsident Donald Trump über ein „konsistentes Muster der Voreingenommenheit gegenüber konservativen Persönlichkeiten, das durch die KI-Systeme von Google demonstriert wird“. In einem Beitrag auf X (ehemals Twitter) am Freitagabend bezog sich Google nicht direkt auf den Brief von Senator Blackburn. Das Unternehmen erklärte jedoch, es habe „Berichte von Nicht-Entwicklern gesehen, die versuchten, Gemma in AI Studio zu verwenden und ihm sachliche Fragen zu stellen“. Google stellte seinen Standpunkt klar und erklärte: „Wir hatten nie die Absicht, dass es sich hierbei um ein Verbrauchertool oder -modell handelt oder dass es auf diese Weise verwendet wird.“ https://twitter.com/NewsFromGoogle/status/1984412632913494456 Infolgedessen hat Google Gemma aus dem webbasierten AI Studio entfernt, wird Entwicklern die leichtgewichtigen Modelle jedoch weiterhin über seine API zur Verfügung stellen.
