Laut einem Bericht von WIRED wurden Hunderte von Auftragnehmern, die für Meta arbeiteten, angewiesen, sich als Kinder auszugeben und Chatbots von Konkurrenten zu testen, darunter Gemini von Google und ChatGPT von OpenAI, indem sie Aufforderungen zu Selbstmord, Sex und Drogen sendeten. Die in Kenia ansässigen Auftragnehmer verwendeten während der Tests Bilder wie Pillen, Messer, Schlingen und ein medizinisches Diagramm eines gynäkologischen Eingriffs. Diese Aufforderungen zielten darauf ab, konkurrierende KI-Systeme an ihre Grenzen zu bringen und Sicherheitsmängel bei der Reaktion der Chatbots auf Minderjährige zu identifizieren, die nach gefährlichen Inhalten suchen.
Diese Enthüllung unterstreicht die anhaltenden Bedenken hinsichtlich der Art und Weise, wie Technologieunternehmen ihre KI-Produkte schützen, insbesondere in Bezug auf Kinder. Die Chatbots von Meta wurden kritisiert, weil bei der Blockierung von Inhalten zur sexuellen Ausbeutung von Kindern eine Fehlerquote von 66,8 % und bei der Reaktion auf Suizid- und Selbstverletzungsaufforderungen bei einer internen Beurteilung des Red-Teams eine Fehlerquote von 54,8 % festgestellt wurde. Aufgrund des rechtlichen Drucks stellte das Unternehmen im Januar 2026 den Zugang zu KI-Begleitfiguren für Jugendliche ein.
Frühere Berichte einer schwedischen Nachrichtenagentur deuteten darauf hin, dass sich die Auftragnehmer in Kenia speziell darauf konzentrierten, wie Wettbewerber sensible Gespräche mit Benutzern führen, die behaupten, minderjährig zu sein. Dies geschieht, da Meta seinen Übergang von der menschlichen Inhaltsmoderation zu einem KI-fokussierten Ansatz beschleunigt. Bis Ende 2026 plant Meta, über 90 % seines Content-Review-Teams durch große Sprachmodelle zu ersetzen. In diesem Jahr hat das Unternehmen bereits etwa 50 % der menschlichen Überprüfungsanfragen auf KI verlagert und behauptet, dass diese Systeme im Vergleich zu menschlichen Prüfern 13 % weniger Fehler machen und 10 % mehr Richtlinienverstöße aufdecken.
Die Auswirkungen dieser Verschiebung sind bereits sichtbar, da das in Nairobi ansässige Outsourcing-Unternehmen Sama im April 1.108 Mitarbeiter entlassen hat, nachdem ein wichtiger Auftrag mit Meta beendet wurde. Dieser Entscheidung gingen Whistleblower-Berichte von kenianischen Arbeitnehmern über beunruhigende Inhalte voraus, die sie überprüfen mussten, insbesondere durch Aufnahmen von Metas Datenbrillen.
Die Strategie von Meta, kostengünstige Auftragnehmer im Ausland zu nutzen, um konkurrierende KI-Systeme einem Stresstest zu unterziehen und gleichzeitig menschliche Moderationsstellen zu reduzieren, unterstreicht die bestehenden Spannungen im KI-Sicherheitsdiskurs, da Unternehmen fortschrittliche Technologien mit abnehmender menschlicher Aufsicht einsetzen.
