Während sich politische Entscheidungsträger und Medienschlagzeilen in den USA in der Vergangenheit auf Plattformen wie Instagram, Facebook, YouTube, TikTok und Diese Gespräche, die auf Diensten wie Discord, Roblox und Steam stattfinden, sind in der Regel anonym und weitgehend vor der Öffentlichkeit verborgen.
Diese Plattformen, die ursprünglich dazu gedacht waren, Gamer miteinander zu verbinden, haben sich zu primären Knotenpunkten für sozialen Diskurs und authentische Interaktion entwickelt, insbesondere da Mainstream-Anwendungen auf Viralität ausgerichtete Inhalte priorisieren. Diese Entwicklung hat neue Untersuchungen mit sich gebracht, wobei der Schwerpunkt darauf liegt, wie diese geschlossenen Foren Hass und Ausbeutung beherbergen können, Probleme, die oft verborgen bleiben, bis sie sich in realem Schaden manifestieren.
Mainstream-Social-Media-Apps sind so strukturiert, dass sie Inhalte öffentlich hervorheben und verstärken, was sie zu effektiven Werkzeugen für die Verbreitung von Ideologien, Gerüchten oder Desinformationen macht. Viele dieser Ideen wurzeln jedoch zunächst in kleineren, privateren Foren auf Gaming-Plattformen. Extremistische Gruppen, die aus den Mainstream-Diensten entfernt wurden, haben in diesen Räumen folglich eine neue Heimat gefunden.
Im Gegensatz zu öffentlich zugänglichen Apps sind Nutzer auf Gaming-Plattformen eher daran gewöhnt, mit Pseudonymen zu agieren. Diese Praxis der Verwendung von Pseudoidentitäten erleichtert den anonymen Austausch radikaler und tabuisierter Ideen.
Mariana Olaizola Rosenblat, Politikberaterin für Technologie und Recht an der NYU Stern, erklärt, dass die Architektur dieser auf Spiele ausgerichteten Plattformen ein Schlüsselfaktor für die Verbreitung gefährlicher Inhalte ist. „Extremisten und Kriminelle gehen in diese Spielräume, um hochengagierte, empfängliche junge Menschen zu finden, von denen sich viele nach Kontakt sehnen“, sagt sie.
Die kleineren, privaten Chatrooms, in denen es häufig zu schädlichen Gesprächen kommt, sind in der Regel von außenstehenden Beobachtern abgeschottet. „Die meisten Forscher sind für all das im Grunde blind. Man kann diese Räume nicht betreten“, stellt Rosenblat fest. Benutzer nutzen auch den Gaming-Kontext und nutzen „Gamespeak“, um extremistische oder gefährliche Konzepte zu verschleiern, wodurch die Unterscheidung zwischen Rollenspiel und realer Absicht verwischt wird. Obwohl die Plattformen selbst über technischen Zugriff auf diese Inhalte verfügen, macht die schiere Menge die Überwachung zu einer erheblichen Herausforderung. Rosenblat stellt fest, dass die meisten nicht ausreichend in die Sicherheitsvorkehrungen oder Moderationsressourcen investiert haben, die zum Schutz junger Benutzer erforderlich sind.
Es ist wichtig zu beachten, dass die meisten Gespräche auf diesen Plattformen gewöhnlicher Natur sind. Sie reichen von Diskussionen über Gaming und der Teilnahme an Lerngruppen bis hin zu Sportfandoms und Community-Foren in der Nachbarschaft. Dennoch sind dieselben Umgebungen auch zu einem fruchtbaren Boden für Radikalisierung und Ausbeutung geworden, und immer mehr Vorfälle bringen das Problem ans Licht.
Discord steht vor einer erneuten Prüfung, nachdem der Verdächtige des Mordes an Charlie Kirk in einem Discord-Chat offenbar ein Geständnis abgelegt hat. Die Plattform wurde auch von den Organisatoren der Unite the Right-Kundgebung 2017 in Charlottesville genutzt, um die Logistik, einschließlich Fahrgemeinschaften und Unterkunft, zu koordinieren. In einem anderen Vorfall dokumentierte der Schütze, der 2022 in einem schwarzen Viertel von Buffalo zehn Menschen tötete, Monate seiner Planung in einem privaten Discord-Chat. Darüber hinaus deckte eine Untersuchung von The Daily Beast aus dem Jahr 2018 Hunderte von Fällen auf, in denen Rachepornos auf Discord-Servern geteilt wurden.
Roblox, eine Plattform, die sich direkt an Kinder richtet, hat wegen der sexuellen, räuberischen und extremistischen Inhalte, die auf ihrem Dienst erscheinen, scharfe Kritik auf sich gezogen. Das Unternehmen sieht sich derzeit mehreren Klagen gegenüber. In einer vom Bundesstaat Louisiana eingereichten Klage wird behauptet, Roblox habe es versäumt, Kinder zu schützen. Eine weitere Klage wurde von einer Familie aus Iowa eingereicht, nachdem ihre 13-jährige Tochter von einem Raubtier, dem sie auf dem Bahnsteig begegnete, entführt, gehandelt und vergewaltigt worden war.
Ein Roblox-Sprecher gab eine Erklärung zu seinen Sicherheitspraktiken ab:
„Obwohl wir uns nicht zu Ansprüchen äußern können, die in Rechtsstreitigkeiten erhoben werden, sind wir bei Roblox bestrebt, die höchsten Sicherheitsstandards einzuhalten. Wir investieren erhebliche Ressourcen in fortschrittliche Sicherheitstechnologie, einschließlich einer Kombination aus maschinellem Lernen und menschlichen Moderationsteams, die rund um die Uhr daran arbeiten, unangemessene Inhalte und Verhaltensweisen zu erkennen und zu beheben.“
Die Schießerei in Buffalo im Jahr 2022 wurde per Livestream auf Twitch, der Gaming-Plattform von Amazon, übertragen. Twitch verurteilte den Angriff, entfernte das Video schnell und erklärte, dass man bei der Untersuchung des Vorfalls eng mit den Strafverfolgungsbehörden zusammenarbeite.
Im Jahr 2021 fanden Forscher heraus, dass sich die Plattform Steam zu einem Netzwerkraum für rechtsextreme Ideologien entwickelt hatte und Gruppen beherbergte, die neonazistische Organisationen förderten.
Nach der Ermordung von Charlie Kirk erhalten Gaming-Plattformen zunehmende Aufmerksamkeit von politischen Entscheidungsträgern in den USA. Der Vorsitzende der Aufsichtsbehörde des Repräsentantenhauses, James Comer (R-Ky.), hat die CEOs von Discord, Steam, Twitch und Reddit gebeten, am 8. Oktober vor dem Kongress über das Problem der Radikalisierung der Nutzer auf ihren Plattformen auszusagen.
