Laut einem Bericht von WIRED wurden Hunderte von Auftragnehmern, die an einem Projekt für Meta arbeiteten, angewiesen, sich als Kinder auszugeben und konkurrierende Chatbots, darunter Gemini von Google und ChatGPT von OpenAI, mit Eingabeaufforderungen zu sensiblen Themen wie Selbstmord, Sex und Drogen zu untersuchen. Diese in Kenia ansässigen Auftragnehmer reichten im Zusammenhang mit ihren Anfragen Bilder ein, darunter Pillen, Messer, Schlingen und medizinische Diagramme gynäkologischer Eingriffe.
Hundreds of contractors working on a project for Meta pretended to be kids—and then prompted rival chatbots like Gemini and ChatGPT to discuss high-risk subjects. https://t.co/lw2Zp0ffdL
— WIRED (@WIRED) June 29, 2026
Die Eingabeaufforderungen dienten dazu, konkurrierende KI-Systeme zu testen und potenzielle Fehler in deren Fähigkeit aufzudecken, mit gefährlichen Inhalten umzugehen, die sich an Minderjährige richten. Diese Tests erfolgen vor dem Hintergrund laufender Untersuchungen darüber, wie Technologieunternehmen die Sicherheit ihrer Produkte, insbesondere für Kinder, gewährleisten. Meta wurde an seinen eigenen Chatbots kritisiert, nachdem eine interne Bewertung des Red-Teams ergeben hatte, dass sie eine Fehlerquote von 66,8 % bei der Blockierung von Inhalten zur sexuellen Ausbeutung von Kindern und eine Fehlerquote von 54,8 % bei Selbstmord- und Selbstverletzungsaufforderungen aufwiesen. Als Reaktion auf rechtlichen Druck pausierte Meta im Januar 2026 den Zugang von Teenagern zu KI-Begleitfiguren.
Aus einem früheren Bericht einer schwedischen Nachrichtenagentur ging hervor, dass die Auftragnehmer von Meta in Kenia aktiv getestet haben, wie Wettbewerber vertrauliche Gespräche mit Benutzern verwalten, die behaupten, minderjährig zu sein. Diese Entwicklung steht im Einklang mit der umfassenderen Strategie von Meta, sich von der Moderation menschlicher Inhalte zu lösen.
Wie die Financial Times berichtet, plant das Unternehmen, bis Ende 2026 über 90 % seiner Belegschaft für die Inhaltsprüfung durch große Sprachmodelle zu ersetzen. Dieser Übergang hat in diesem Jahr bereits zu einer Verlagerung von etwa der Hälfte aller menschlichen Überprüfungsanfragen auf KI geführt, wobei behauptet wird, dass KI-Systeme 13 % weniger Fehler machen und 10 % mehr Richtlinienverstöße erkennen als menschliche Prüfer.
Die menschlichen Kosten dieser Initiative waren erheblich. Im April veröffentlichte das in Nairobi ansässige Outsourcing-Unternehmen Sama Kündigungen für 1.108 Mitarbeiter, nachdem Meta aufgrund von Whistleblower-Berichten ein großes Engagement beendet hatte. In diesen Berichten wurden beunruhigende Inhalte hervorgehoben, die kenianische Arbeiter überprüfen sollten. Ein großer Teil davon wurde mithilfe der Daten der Datenbrille von Meta erfasst.
Der Ansatz von Meta, schlecht bezahlte Auftragnehmer aus dem Ausland einzubeziehen, um Konkurrenten zu testen und gleichzeitig Moderationsstellen abzubauen, verdeutlicht die anhaltenden Spannungen in der KI-Sicherheitsdebatte. Der schnelle Einsatz leistungsstarker KI-Systeme geht einher mit einer eingeschränkten menschlichen Kontrolle, was Bedenken hinsichtlich des Umgangs mit sensiblen Inhalten mit Minderjährigen aufkommen lässt.
