Generative KI demokratisiert den E-Commerce-Betrug, wobei Betrüger zunehmend KI-generierte Bilder verwenden, um Rückerstattungen für Artikel zu sichern, die sie nie zurückgeben. Entsprechend VerdrahtetOnline-Shopping-Plattformen, die sich bei der Validierung von Rückerstattungsanträgen seit langem auf von Kunden eingereichte Fotos verlassen, haben Schwierigkeiten, zwischen echten und erfundenen Schadensersatzansprüchen zu unterscheiden.
Besonders akut ist das Problem auf chinesischen Social-Media-Plattformen wie z RedNote Und Douyin. Wired hebt einen aktuellen Fall hervor, an dem ein Krabbenhändler namens Gao Jing beteiligt war, der einen Rückerstattungsanspruch zusammen mit einem Video von „toten“ Krabben erhielt. Der Betrug wurde aufgedeckt, als der Verkäufer biologische Unstimmigkeiten im Filmmaterial bemerkte: Die Krabben hatten die falsche Anzahl an Beinen und das Geschlecht der Krabben änderte sich zwischen den Clips. Die polizeilichen Ermittlungen bestätigten, dass das Video KI-generiert war, was zur Festnahme des Käufers führte.
Das Problem geht über einzelne Betrüger hinaus. Michael Reitblat, CEO eines Betrugserkennungsunternehmens Fortersagte gegenüber Wired, dass die von KI bearbeiteten Rückerstattungsansprüche um mehr als gestiegen seien 15 % weltweit seit Jahresbeginn. Berichten zufolge nutzen organisierte Kriminalitätsgruppen diese Tools, um Betrug in großem Umfang zu automatisieren, indem sie rotierende IP-Adressen nutzen, um Einzelhändler mit gefälschten Ansprüchen für „beschädigte“ Haushaltswaren zu überschwemmen. Während einige Händler ihre eigenen KI-Tools einsetzen, um manipulierte Bilder zu erkennen, bleibt die Technologie unvollständig und zwingt Einzelhändler dazu, strengere Rückgaberichtlinien in Betracht zu ziehen, die ehrliche Käufer belästigen könnten.
In einer leichteren Weiterentwicklung desselben Berichts weist Wired auf den viralen Erfolg von „Yichang Beer“ hin. Trotz der Kennzeichnung mit chinesischen Schriftzeichen und Drachenbildern wird das Bier tatsächlich in China gebraut Kasachstan und wurde ursprünglich auf russischsprachigen Märkten verkauft. Auf dem Etikett des Produkts steht, dass es seit 1858 gebraut wird – Jahrzehnte bevor Bier in China eingeführt wurde. Ironischerweise wird das Bier, nachdem es wegen seines „falschen“ Erbes in den chinesischen sozialen Medien viral ging, nun importiert und in der eigentlichen Stadt Yichang verkauft.
