Character.AI, eine führende KI-Chatbot-Plattform, kündigte Pläne an, den unbefristeten Chatbot-Zugriff für Benutzer unter 18 Jahren bis zum 25. November zu beenden. Das Unternehmen wird zunächst jugendliche Benutzer auf zwei Stunden tägliche Interaktion beschränken und diese Zeit dann schrittweise reduzieren, bis der Zugriff vollständig eingestellt wird.
Um die Einschränkung umzusetzen, wird Character.AI neben Diensten von Drittanbietern wie Persona ein internes Tool zur Altersüberprüfung einsetzen. In Fällen, in denen sich diese Methoden als unzureichend erweisen, kann die Plattform auf Gesichtserkennung und staatliche Ausweiskontrollen zurückgreifen, um zu bestätigen, dass Benutzer über 18 Jahre alt sind.
Die Entscheidung basiert auf Beiträgen von Aufsichtsbehörden und Eltern und steht im Einklang mit laufenden Initiativen zur Minderung der psychischen Gesundheitsrisiken im Zusammenhang mit KI-Interaktionen bei Teenagern. Character.AI hat zuvor Sicherheitsmaßnahmen eingeführt, darunter ein Tool zur Überwachung der Nutzung durch Eltern, gefilterte Charakteroptionen, Einschränkungen für romantische Gespräche und Benachrichtigungen über die auf der Plattform verbrachte Zeit. Diese Schritte trugen zu einem Rückgang der Nutzerbasis unter 18 Jahren bei.
In Zukunft möchte Character.AI ein spezielles Erlebnis für Teenager einführen, das es ihnen ermöglicht, Videos, Geschichten und Streams mit Charakteren zu produzieren. Diese neue Funktion schließt offene Chatfunktionen aus.
