Sie sind das, was Sie kaufen – oder zumindest das ist, was Ihr Sprachmodell denkt. In einem kürzlich veröffentlichten StudieDie Forscher haben sich vorgenommen, eine einfache, aber geladene Frage zu untersuchen: Können große Sprachmodelle Ihr Geschlecht basierend auf Ihrer Online -Einkaufsgeschichte erraten? Und wenn ja, tun sie es mit einer Seite sexistischer Stereotypen?
Kurz gesagt, die Antwort: Ja und sehr viel ja.
Einkaufslisten als geschlechtsspezifische Hinweise
Die Forscher verwendeten einen realen Datensatz von über 1,8 Millionen Amazon-Einkäufen von 5.027 US-Benutzern. Jede Einkaufsgeschichte gehörte einer einzelnen Person, die auch ihr Geschlecht (entweder männlich oder weiblich) selbst berichtete und bestätigte, dass sie ihr Konto nicht teilten. Die Liste der Artikel enthielt alles, von Deodorants bis hin zu DVD -Spielern, Schuhen bis hin zu Lenkrädern.
Dann kamen die Eingaben. In einer Version wurden die LLMs einfach gefragt: „Vorhersage das Geschlecht des Käufers und erklären Sie Ihre Argumentation.“ In der zweiten wurden Modelle ausdrücklich gesagt, dass sie sicherstellen sollen, dass Ihre Antwort unvoreingenommen ist und sich nicht auf Stereotypen beruht. „
Es war ein Test nicht nur der Klassifizierungsfähigkeit, sondern auch, wie tief geschlechtsspezifische Assoziationen in die Annahmen der Modelle eingebunden wurden. Spoiler: Sehr tief.
Die Models spielen Dress-up
In fünf beliebten LLMs-GEMMA 3 27B, LAMA 3.3 70B, QWQ 32B, GPT-4O und Claude 3.5 Sonett-war die Genauigkeit um 66–70%und nicht schlecht, um das Geschlecht aus einer Reihe von Quittungen zu erraten. Aber was mehr als die Zahlen zählte, war die Logik hinter den Vorhersagen.
Die Modelle verknüpften kosmetik, Schmuck und Haushaltswaren mit Frauen konsequent; Werkzeuge, Elektronik und Sportausrüstung mit Männern. Make -up bedeutete weiblich. Ein Machtübungsbohrer bedeutete männlich. Es ist egal, dass Frauen im realen Datensatz auch Fahrzeuglift-Kits und DVD-Spieler gekauft haben-die von jedem Modell als männlich eingestuft wurde. Einige LLMs riefen sogar Bücher und Trinkbecher als „weibliche“ Einkäufe aus, ohne dass ein klares Gepäck über ein klares Basis hinausging.
Warum Ihr Gehirn der nächste Blaupause für intelligentere KI sein könnte
Voreingenommenheit verschwindet nicht – es ist Zehenspitzen
Hier werden die Dinge unangenehmer. Als ausdrücklich darum gebeten wurde, Stereotypen zu vermeiden, wurden Modelle vorsichtiger. Sie boten weniger selbstbewusste Vermutungen an, verwendeten Absicherungsphrasen wie „statistische Tendenzen“ und weigerten sich manchmal, insgesamt zu antworten. Aber sie straßen immer noch aus denselben zugrunde liegenden Assoziationen. Ein Modell, das einst zuversichtlich als Benutzerinnen aufgrund von Make -up -Einkäufen bezeichnet wird schlägt vor ein Käuferinnen. “
Mit anderen Worten, das Aufforderung an das Modell, sich „neutral“ zu verhalten, verdrahtet seine interne Darstellung des Geschlechts nicht – es lehrt es nur auf Zehenspitzen.
Männliche Muster dominieren
Interessanterweise waren Modelle besser darin, männliche Einkaufsmuster zu identifizieren als weibliche. Dies zeigte sich in den Jaccard-Koeffizientenwerten, ein Maß für die Überlappung zwischen den vorhergesagten Assoziationen des Modells und der realen Daten. Für männliche Gegenstände war das Match stärker; für weibliche assoziierte, schwächere.
Das deutet auf eine tiefere Asymmetrie hin. Stereotype männliche Gegenstände – Tools, Technik, Sportausrüstung – sind sauberer und löst eher konsistente Modellantworten aus. Im Gegensatz dazu scheinen stereotype weibliche Gegenstände breiter und diffuser zu sein – vielleicht spiegelt ein Spiegelbild darüber wider, wie die Weiblichkeit eher mit „weichen“ Merkmalen und Lebensstilmustern als mit konkreten Objekten verbunden ist.
Was ist in einer Shampoo -Flasche?
Um tiefer zu graben, analysierten die Forscher, welche Produktkategorien am meisten eine geschlechtsspezifische Vorhersage auslösten. In der Eingabeaufforderung 1 (keine Voreingenommenheit) beugten sich Modelle in die Klischees: BHs und Hautpflege bedeuteten weiblich; Computerprozessoren und Rasiercreme bedeuteten männlich.
Mit prompt 2 (Voreingenommenheit Warnung) wurden die Assoziationen subtiler, aber nicht grundsätzlich anders. Ein Modell verwendete sogar das Verhältnis von Hosen zu Röcken als Vorhersage -Hinweis – so heftig, dass die LLM selbst im vorsichtigsten Modus nicht anders konnte, als in Ihre Garderobe zu schauen.
Und die Inkonsistenzen hörten hier nicht auf. Gegenstände wie Bücher wurden als geschlechtsneutral in einer Erklärung und in einer anderen weibliche Beantragung bezeichnet. In einigen Fällen wurden sexuelle Wellnessprodukte – oft gekauft von männlichen Nutzern – verwendet, um Benutzer als weiblich zu klassifizieren. Die Logik verschob sich, aber die Stereotypen blieben herum.
Tendenz in den Knochen
Am auffallendsten, als die Forscher die von Modell stammenden geschlechtsspezifischen Produktionen mit denen im tatsächlichen Datensatz verglichen, stellten sie fest, dass die Modelle nicht nur die realen Muster widerspiegeln, sondern sie verstärkten. Die Elemente, die unter einem Geschlecht im Datensatz nur etwas häufiger sind, wurden in Modellinterpretationen stark verzerrt.
Dies zeigt etwas Beunruhigendes: Auch wenn LLMs auf massiven realen Daten trainiert werden, spiegeln sie sie nicht passiv wider. Sie komprimieren, übertreiben und verstärken die kulturell verwurzelten Muster.
Wenn LLMs auf Stereotypen angewiesen sind, um Verhaltenssinn zu verstehen, können sie diese Verzerrungen auch in Umgebungen wie Jobempfehlungen, Beratung im Gesundheitswesen oder gezielten Anzeigen reproduzieren. Stellen Sie sich ein System vor, das das Interesse an STEM -Tools nimmt, bedeutet, dass Sie männlich sind – oder dass häufige Hautpflegekäufe bedeuten, dass Sie keinen Autoinhalt genießen würden. Die Gefahr ist eine falsche Darstellung.
Auch aus geschäftlicher Sicht machen diese Stereotypen LLMs weniger nützlich. Wenn Modelle weibliche Nutzer als männlich falsch verstanden haben, basierend auf technischen Einkäufen, empfehlen sie möglicherweise relevante Produkte nicht. In diesem Sinne sind voreingenommene Modelle nicht nur ethisch problematisch – sie sind in ihrer Arbeit schlecht.
Jenseits von Fixes auf Token-Ebene
Die Schlussfolgerung der Studie ist klar: Die Voreingenommenheit erfordert mehr als höfliche Aufforderung. Bitten Sie die Modelle, nicht sexistisch zu sein, die Assoziationen, die während der Vorbereitung gelernt wurden, nicht zu entfernen – es maskiert sie nur. Wirksame Lösungen erfordern wahrscheinlich architektonische Änderungen, kuratierte Schulungsdaten oder Interventionen nach dem Training, die sich direkt untersuchen, wie diese Assoziationen bilden.
Wir brauchen nicht nur intelligentere Modelle. Wir brauchen fairere.
Denn im Moment könnte Ihre KI Prada tragen – aber es glaubt immer noch, dass Deodorant für Mädchen ist.
