OpenAI hat für ChatGPT eine „Altersvorhersage“-Funktion eingeführt, um Minderjährige zu identifizieren und entsprechende Inhaltsbeschränkungen für ihre Gespräche zu ermöglichen. Die Kritik an den Auswirkungen von KI auf junge Menschen hat zugenommen. ChatGPT von OpenAI wurde mit Selbstmorden von Teenagern in Verbindung gebracht. Der Chatbot wurde auch kritisiert, weil er sexuelle Themen mit jungen Nutzern ansprach. Konkret erkannte das Unternehmen im April einen Fehler an, der es seinem Chatbot ermöglichte, Erotik für Benutzer unter 18 Jahren zu generieren. OpenAI hat sich mit dem Problem minderjähriger Benutzer befasst. Die neue Funktion „Altersvorhersage“ ergänzt bestehende Schutzmaßnahmen. Diese Funktion nutzt einen KI-Algorithmus, um „Verhaltens- und Kontoebenensignale“ von Benutzerkonten zu analysieren, um junge Benutzer zu erkennen, wie in einem Blogbeitrag des Unternehmens am Dienstag beschrieben. Diese „Signale“ umfassen das angegebene Alter des Benutzers, die Lebensdauer des Kontos und die typischen aktiven Stunden. OpenAI setzt derzeit Inhaltsfilter ein, um Diskussionen über sexuelle Inhalte, Gewalt und andere Themen auszuschließen, die für Benutzer unter 18 Jahren als problematisch gelten. Wenn der Altersvorhersagemechanismus ein Konto als einem Minderjährigen zugehörig identifiziert, werden diese Filter automatisch angewendet. Benutzer, die fälschlicherweise als minderjährig eingestuft wurden, können ihren Kontostatus zurücksetzen. Zur Altersüberprüfung können sie ein Selfie an den ID-Verifizierungspartner von OpenAI, Persona, senden.
Source: OpenAI führt ein AI-Altersvorhersagetool ein, um ChatGPT für Minderjährige einzuschränken
