Die Instagram-Plattform von Meta generiert automatisch KI-erzeugte Schlagzeilen und Beschreibungen für die Beiträge der Benutzer ohne deren Zustimmung, wie von berichtet 404 Medien an einem Dienstag. Diese Elemente erscheinen im Seitencode und tauchen nur in Suchmaschinenergebnissen auf, um das Google-Ranking für Instagram-Inhalte zu verbessern. Ein Engadget-Editor beobachtet dies in ihren eigenen Beiträgen. Die generierten Schlagzeilen und Beschreibungen zielen darauf ab, Instagram-Beiträge für eine bessere Sichtbarkeit in Suchmaschinen zu optimieren. Sie bleiben den Nutzern innerhalb der Instagram-Anwendung selbst verborgen. Stattdessen werden sie in die zugrunde liegende HTML-Struktur der Beiträge eingebettet und beeinflussen so, wie externe Suchtools den Inhalt indizieren und anzeigen. Diese Praxis erfolgt ohne Benachrichtigung oder Einholung der Genehmigung der Personen, die die Beiträge hochladen. Engadget-Mitarbeiter Sam Chapman teilte ein Beispiel aus seiner eigenen Erfahrung. Er postete über Bloomhunter, ein von ihm entworfenes Brettspiel. Das automatische System gab eine Beschreibung aus, die besagte: „Floramino ist ein gemütliches Puzzlespiel, bei dem Sie als reisender Florist Gärten gestalten.“ Weiter hieß es: „Die Demo sieht lustig aus, mit bezaubernden Bildern und strategischen Elementen.“ Diese Ausgabe enthielt eine klare Ungenauigkeit, da sich Bloomhunter von Floramino unterscheidet, das als separates Puzzlespiel auf der Steam-Plattform verfügbar ist. Die fehlerhafte Beschreibung stellt Chapmans Schöpfung falsch dar und könnte potenzielle Zuschauer bei der Suche nach seinen Inhalten in die Irre führen. 404 Medien berichteten über weitere Fälle, an denen Persönlichkeiten und Institutionen des öffentlichen Lebens beteiligt waren. Der Autor Jeff VanderMeer hat ein Video ohne Titel hochgeladen, das einen Hasen zeigt, der eine Banane isst. Der von der KI generierte Titel lautete „Lernen Sie den Hasen kennen, der gerne Bananen isst, einen nahrhaften Snack für Ihr Haustier.“ Diese Formulierung übernimmt einen werblichen, suchmaschinenfreundlichen Stil, der typisch für Inhalte ist, die für Suchanfragen im Zusammenhang mit Tierpflege oder Tierverhalten optimiert sind. Solche Titel verwandeln neutrale oder persönliche Uploads in allgemeine, anklickbare Zusammenfassungen, bei denen die algorithmische Attraktivität Vorrang vor der ursprünglichen Absicht hat. Eine Bibliothek in Massachusetts veranstaltete eine Leseveranstaltung mit einem Buch von VanderMeer. Der Beitrag erhielt eine automatisch generierte Überschrift: „Begleiten Sie Jeff VanderMeer auf einem spannenden Strandabenteuer mit Mesta ….“ Die Auslassungspunkte weisen darauf hin, dass der Titel ausläuft, aber sie rahmen das Ereignis in abenteuerlichen Begriffen ein, die möglicherweise nicht mit dem eigentlichen Buch oder der eigentlichen Sammlung übereinstimmen. Durch diese Änderung wird der Fokus auf Spannung verlagert, was möglicherweise nicht verwandten Suchverkehr anzieht und gleichzeitig das wahrgenommene Thema des Beitrags verändert. Cosplayer sind mit ihren Inhalten auf ähnliche Probleme gestoßen. Mehrere Personen gaben an, Titel erhalten zu haben, die den Eindruck erweckten, dass sie nicht zusammenpassten und künstlich hergestellt wurden. Cosplayer Brian Dang kommentierte gegenüber 404 Media: „Ich würde so einen mittelmäßigen Text nicht schreiben, und es hört sich an, als wäre er mit einem LLM automatisch in großem Maßstab generiert worden.“ Er fügte hinzu: „Problematisch wird es, wenn die Überschrift oder Beschreibung jemanden auf eine Weise bewirbt, die nicht der persönlichen Beschreibung entspricht.“ Diese nicht übereinstimmenden Darstellungen werfen Bedenken hinsichtlich der Authentizität auf, insbesondere bei Künstlern, die in der bildenden Kunst wie Cosplay auf persönliches Branding angewiesen sind. Die Überprüfung der Platzierung der Schlagzeilen erfolgte durch das Rich-Result-Test-Tool von Google. Es wurden die Titel in den Titel-Tags des Beitrags und die Beschreibungen im Abschnitt „Text“ des Codes angezeigt. Diese Elemente funktionieren unabhängig von der Alt-Text-Funktion von Instagram, die die Plattform generiert, um Benutzern mit Sehbehinderung durch barrierefreie Beschreibung von Bildern zu helfen. Die SEO-fokussierten Ergänzungen legen somit einen zusätzlichen, unbeabsichtigten Interpretationsrahmen auf die Beiträge. Einzelpersonen können ihre letzten Uploads überprüfen, indem sie in externen Suchmaschinen danach suchen, um alle generierten Elemente zu identifizieren. Mit diesem Schritt können Benutzer beurteilen, ob ihre Inhalte ohne ihr Wissen solche Änderungen erfahren haben.
Engadget kontaktierte Meta zur Klärung. Das Unternehmen gab eine Erklärung heraus, in der es erklärte, dass es „vor kurzem damit begonnen hat, KI zu nutzen, um Titel für Beiträge zu generieren, die in Suchmaschinenergebnissen erscheinen. Dies hilft den Menschen, die geteilten Inhalte besser zu verstehen.“ Meta stellte fest, dass Benutzer die Möglichkeit haben, die Indizierung ihrer Konten zu deaktivieren. Durch diese Aktion wird jedoch jegliche Sichtbarkeit in Suchmaschinen eliminiert, was die Wahrscheinlichkeit verringert, dass andere das Profil oder seine Beiträge entdecken. In der Erklärung wurde weiter eingeräumt: „Wie bei allen KI-generierten Inhalten sind diese Titel möglicherweise nicht immer 100 % korrekt.“
