Meta hat eine neue Funktion eingeführt, die es Eltern ermöglicht, Themen zu überwachen, die ihre Teenager mit dem KI-Assistenten des Unternehmens besprechen, und zwar über ein Tool zur elterlichen Überwachung von Teen Accounts. Die Ankündigung erfolgte am Donnerstag über einen Blogbeitrag.
Auf die Informationen kann über die Registerkarte „Einblicke“ im Überwachungstool auf Instagram, Facebook und Messenger zugegriffen werden. Diese Funktion kategorisiert umfassendere Themen, darunter Schule, Unterhaltung, Schreiben, Gesundheit und Wohlbefinden, wobei beim Klicken auf jede Kategorie zusätzliche begrenzte Details verfügbar sind.
Die Kategorie „Gesundheit und Wohlbefinden“ kann Bereiche wie Fitness, körperliche Gesundheit und geistige Gesundheit umfassen. Einblicke stehen für Gespräche der letzten sieben Tage zur Verfügung. Diese Funktion ist Teil der Reaktion von Meta auf die verschärfte rechtliche und mediale Kontrolle in Bezug auf die Sicherheit von Kindern. Das Unternehmen hat kürzlich zwei bahnbrechende Verfahren zum Schutz von Kindern verloren und plant, gegen beide Urteile Berufung einzulegen.
Eine Klage in New Mexico ergab, dass sich die Führung von Meta der Risiken bewusst war, die damit verbunden sind, dass ihre KI-Gefährten möglicherweise unangemessene Interaktionen mit Minderjährigen eingehen. Nachdem letztes Jahr berichtet wurde, dass KI-Charaktere sich mit Teenagern an besorgniserregenden Diskussionen beteiligten, schränkte Meta den Zugriff auf diese Charaktere ein.
Darüber hinaus bestätigte ein Meta-Sprecher, dass KI-Charaktere derzeit für Teenager pausiert werden, während weitere Kindersicherungen entwickelt werden. Das Unternehmen arbeitete außerdem mit dem Cyberbullying Research Center zusammen, um Gesprächsstarter zum Einsatz von KI-Chatbots zu entwickeln.
Darüber hinaus gründete Meta einen Expertenrat für KI-Wohlbefinden, dem Experten von Institutionen wie dem National Council for Suicide Prevention und der University of Michigan angehören, um fortlaufend Beiträge zu KI-Erfahrungen für Jugendliche bereitzustellen.
Josh Golin, Geschäftsführer der gemeinnützigen Interessenvertretung Fairplay, kritisierte die neue Überwachungsfunktion und erklärte, dass sie die Last der Überwachung von Online-Aktivitäten den Eltern aufbringe, anstatt die Produktsicherheit zu verbessern. Die unabhängigen Tests von Fairplay auf Metas Teen Accounts ergaben, dass Sicherheitsmaßnahmen unwirksam sind.
Golin äußerte Bedenken, dass die neue Funktion nicht das Kernproblem angeht, dass Metas Chatbots möglicherweise ungesunde emotionale Bindungen bei Teenagern fördern. Die laufenden Anpassungen des Unternehmens signalisieren einen Versuch, sich in der kritischen Landschaft der Kindersicherheit und Online-Interaktionen zurechtzufinden.
