Instagram kündigte an, Eltern zu benachrichtigen, wenn ihr Teenager innerhalb kurzer Zeit wiederholt nach Begriffen wie Selbstmord oder Selbstverletzung sucht. Die Benachrichtigungen werden in den kommenden Wochen für Eltern verfügbar sein, die bei den Elternüberwachungstools der Plattform registriert sind. Während Instagram bereits die Suche nach Suizid- und Selbstverletzungsinhalten blockiert, fügt die neue Funktion eine Benachrichtigungsebene hinzu, um Eltern über wiederholte Versuche zu informieren. Ziel des Unternehmens ist es, Eltern dabei zu unterstützen, Unterstützung zu leisten, wenn sie auf diese Suchanfragen aufmerksam werden.
Zu den auslösenden Suchanfragen gehören Formulierungen, die Selbstmord oder Selbstverletzung fördern, Begriffe, die darauf hinweisen, dass ein Teenager gefährdet sein könnte, und Wörter wie „Selbstmord“ oder „Selbstverletzung“. Basierend auf den angegebenen Kontaktinformationen erhalten Eltern Benachrichtigungen per E-Mail, SMS oder WhatsApp. Sie erhalten außerdem eine In-App-Benachrichtigung mit Ressourcen, die ihnen dabei helfen, Gespräche mit ihrem Teenager zu führen. Instagram gab an, das Suchverhalten analysiert und seine Suicide and Self-Harm Advisory Group konsultiert zu haben, um den Schwellenwert festzulegen. Der Schwellenwert erfordert einige Suchvorgänge innerhalb eines kurzen Zeitfensters, und das Unternehmen ist auf Nummer sicher gegangen. Instagram wies darauf hin, dass es darauf abzielt, unnötige Benachrichtigungen zu vermeiden, um deren Wirksamkeit aufrechtzuerhalten.
Die Ankündigung fällt mit laufenden Klagen gegen Meta und andere Technologieunternehmen wegen der Schädigung von Jugendlichen zusammen. Während seiner Aussage diese Woche vor dem US-Bezirksgericht für den nördlichen Bezirk von Kalifornien wurde Instagram-Chef Adam Mosseri mit Fragen zur verzögerten Einführung von Sicherheitsfunktionen konfrontiert. Staatsanwälte in einem laufenden Fall von Social-Media-Sucht stellten insbesondere die Verzögerung eines Nacktheitsfilters für private Nachrichten an Jugendliche in Frage. Mosseri sagte im Rahmen dieses Rechtsstreits aus.
In einer separaten Klage vor dem Los Angeles County Superior Court wurden interne Meta-Recherchen enthüllt. Die Studie ergab, dass die Aufsicht und Kontrolle der Eltern kaum Einfluss auf die zwanghafte Nutzung sozialer Medien durch Kinder hatte. Die gleiche Untersuchung ergab, dass Kinder, die mit stressigen Lebensereignissen konfrontiert sind, eher Schwierigkeiten haben, ihre Nutzung sozialer Medien zu regulieren. Der Zeitpunkt der neuen Warnungen richtet sich nach diesen rechtlichen Entwicklungen und internen Erkenntnissen.
Die Warnungen werden nächste Woche in den USA, Großbritannien, Australien und Kanada eingeführt. Instagram plant, die Funktion noch in diesem Jahr auf andere Regionen auszuweiten. Das Unternehmen beabsichtigt auch, irgendwann ähnliche Benachrichtigungen zu veröffentlichen, wenn Teenager versuchen, mit der KI der App über Selbstmord oder Selbstverletzung zu sprechen.
