Meta, TikTok und Snap werden an einem externen Bewertungsprozess teilnehmen, der soziale Plattformen hinsichtlich ihres Schutzes für die psychische Gesundheit von Jugendlichen bewertet. Beteiligt sind auch YouTube und weitere zahlreiche soziale Plattformen.
Die Safe Online Standards (SOS)-Initiative der Mental Health Coalition hat dieses Programm ins Leben gerufen. SOS umfasst etwa zwei Dutzend Standards, darunter Plattformrichtlinien, Funktionalität, Governance, Transparenz und Inhaltsüberwachung.
Dr. Dan Reidenberg, Geschäftsführer des National Council for Suicide Prevention, leitet die SOS-Initiative.
Die Mental Health Coalition gab an, dass SOS benutzerinformierte Daten darüber erhebt, wie soziale Medien, Spiele und digitale Plattformen Produkte entwerfen, Benutzer im Alter von 13 bis 19 Jahren schützen und die Exposition gegenüber Selbstmord- und Selbstverletzungsinhalten bekämpfen. Teilnehmende Unternehmen sind verpflichtet, freiwillig Dokumentationen zu ihren Richtlinien, Tools und Produktfunktionen einzureichen.
Ein unabhängiges Gremium aus globalen Experten wird die eingereichten Unterlagen bewerten.
Plattformen erhalten eine von drei Bewertungen:
- vorsichtig verwenden
- Teilschutz
- entspricht nicht den Standards
„Vorsichtig verwenden“ ist die höchste Sicherheitseinstufung. Plattformen, die diese Bewertung erreichen, erhalten ein blaues Abzeichen zur Anzeige. Diese Bewertung erfordert zugängliche und benutzerfreundliche Berichtstools sowie Datenschutz-, Standard- und Sicherheitsfunktionen, die für Eltern klar und einfach einzustellen sind. Darin heißt es außerdem, dass Plattformen und Filter dazu beitragen, die Gefährdung durch schädliche oder unangemessene Inhalte zu verringern.
„Teilweiser Schutz“ weist darauf hin, dass einige Sicherheitswerkzeuge vorhanden sind, diese jedoch möglicherweise schwer zu finden oder zu verwenden sind.
„Entspricht nicht den Standards“ wird zugewiesen, wenn Filter und Inhaltsmoderation schädliche oder unsichere Inhalte nicht zuverlässig blockieren.
Die 2020 gegründete Mental Health Coalition umfasst seit ihrer Gründung Facebook und Meta als Partner. Im Jahr 2021 gab die Organisation ihren Plan bekannt, mit Facebook und Instagram zusammenzuarbeiten, um die psychische Gesundheit zu entstigmatisieren und Einzelpersonen während der COVID-19-Pandemie mit Ressourcen zu verbinden.
Im Jahr 2022 veröffentlichte die gemeinnützige Organisation mit Unterstützung von Meta eine Fallstudie. Diese Studie kam zu dem Schluss, dass Inhalte zur psychischen Gesundheit in sozialen Medien Stigmatisierung reduzieren und die Wahrscheinlichkeit erhöhen können, dass Einzelpersonen nach Ressourcen suchen, was sich positiv auf die psychische Gesundheit auswirkt.
Im Jahr 2024 startete die Mental Health Coalition in Zusammenarbeit mit Meta die Time Well Spent Challenge. Diese Kampagne ermutigte Eltern, sinnvolle Gespräche mit Teenagern über eine gesunde Nutzung sozialer Medien zu führen. Der Schwerpunkt lag darauf, die Teenager auf eine „gut investierte“ Zeit auf der Plattform zu halten, einschließlich einer kürzeren Bildschirmzeit, der dauerhaften Nutzung sozialer Medien und dem gemeinsamen Durchsehen von Feeds.
Im selben Jahr gründete die Partnerschaft mit Meta „Thrive“, ein Programm, das es Technologieunternehmen ermöglicht, Daten zu Inhalten auszutauschen, die gegen Selbstverletzungs- oder Selbstmordrichtlinien verstoßen. Die Mental Health Coalition listet Meta auf ihrer Website als „kreativen Partner“ auf.
Im vergangenen Jahr tauchten Vorwürfe auf, Meta habe interne Daten über die negativen Auswirkungen seiner Produkte auf die psychische Gesundheit der Nutzer unterdrückt. Diese interne Forschung mit dem Namen „Project Mercury“ begann im Jahr 2020. Seitdem hat Meta begrenzte Maßnahmen umgesetzt, um psychische Gesundheitsprobleme anzugehen, beispielsweise Funktionen für Instagram-Teenager-Konten. Meta steht derzeit in Kalifornien vor Gericht und wird wegen Kindesmissbrauchs durch Suchtmittel angeklagt. Dies ist die erste von mehreren bevorstehenden Klagen gegen das Unternehmen.
Auch Roblox und Discord nehmen am Bewertungsprogramm teil. Roblox wurde kürzlich auf seiner Plattform mit Vorwürfen bezüglich des Kindeswohls konfrontiert. Discord hat seine Prozesse zur Altersüberprüfung als Reaktion auf Bedenken hinsichtlich der Gefährdung von Kindern verbessert.
