Roblox hat eine KI-gestützte Chat-Umformulierungsfunktion in Echtzeit eingeführt, um verbotene Wörter durch eine respektvollere Sprache zu ersetzen. Das neue System ersetzt den bisherigen Filter der Plattform, der lediglich verbotene Texte mit Hash-Symbolen zensierte. Roblox erklärte, die Änderung ziele darauf ab, zu verhindern, dass Gespräche unterbrochen und schwer verständlich werden.
Die Funktion formuliert gefilterten Text neu, um der ursprünglichen Absicht des Benutzers nahe zu bleiben und gleichzeitig die Höflichkeit zu wahren. Beispielsweise wird die Meldung „Beeil dich, TF!“ angezeigt. wird jetzt als „Beeil dich!“ angezeigt. anstatt “####.” Das Unternehmen benachrichtigt alle Benutzer in einem Chat, wenn eine Nachricht umformuliert wurde.
„Umformulierungen in Echtzeit helfen dabei, Gameplay und Konversationen auf Kurs zu halten und gleichzeitig die Sprache auf das Angemessene zu lenken“, sagte Rajiv Bhatia, Vizepräsident für Benutzer- und Discovery-Produkte bei Roblox. „Dieser Ansatz reduziert die Reibung im Chat und behält gleichzeitig die Standards bei, die dazu beitragen, dass unsere Community zivilisiert bleibt.“
Das Umformulierungstool unterstützt alle Sprachen, die über die automatischen Übersetzungstools von Roblox verfügbar sind. Roblox aktualisiert außerdem sein Textfiltersystem, um Leetspeak und andere raffinierte Versuche, Filter zu umgehen, zu erkennen. Das Unternehmen berichtete, dass diese Upgrades die Zahl falsch negativer Ergebnisse bei der Weitergabe oder Anforderung persönlicher Daten um das Zwanzigfache reduzierten.
Diese Ankündigung folgt auf die Einführung einer obligatorischen Gesichtsverifizierung für den Chat-Zugriff durch Roblox. Die Verifizierungspflicht wurde im Anschluss an Klagen der Generalstaatsanwälte von Texas, Kentucky und Louisiana wegen Risiken für die Sicherheit von Kindern umgesetzt. Auslöser der rechtlichen Schritte waren Berichte über junge Nutzer, die auf der Plattform Gefahren wie „Grooming“ und expliziten Inhalten ausgesetzt waren.
