Stellen Sie sich vor, Sie wachen eines Morgens auf und sehen Ihre vor 18 Jahren ermordete Tochter als Gesicht eines KI-Chatbots … Leider gibt es immer mehr Beispiele für die unbefugte Verwendung der Gesichter und Namen von Toten. Wenn Sie berühmt sind, können Sie diese Situation sofort mit Ihren Anwälten klären. OpenAI versuchte beispielsweise, die Stimme von Scarlett Johansson ohne Erlaubnis zu verwenden, und musste sie sofort zurückziehen. Aber was passiert, wenn ein gewöhnlicher Mensch mit einer solchen Situation konfrontiert wird? Die Familie von Jennifer Ann Crecente erlebt dieses Drama und trägt diese Last selbst statt des Gesetzes. Leider verursacht die langsame Anpassung des Gesetzes an diese neue Technologie unnötiges Leid für die Zurückgebliebenen.
Unser Bericht befasst sich mit den kritischen rechtlichen Herausforderungen in diesen Fällen und zeigt auf, warum es wichtig ist, nicht wegzuschauen. Die Auswirkungen sind zu schwerwiegend, und wenn man sie ignoriert, kann es nur dazu kommen, dass solche Ungerechtigkeiten weiterbestehen. Insbesondere die unbefugte Verwendung des Namens und Bildes eines jungen Mädchens namens Jennifer durch einen Chatbot mit künstlicher Intelligenz 18 Jahre nach ihrem Tod ist eines der schmerzhaftesten Beispiele dieser Debatte. Die vollständige Stellungnahme ihres Onkels zu diesem Thema finden Sie hier Hier.
Wenn KI Ihren verlorenen geliebten Menschen in einen Chatbot verwandelt
Jennifer Ann Crecente war damals gerade 18 Jahre alt Ihr Leben wurde auf tragische Weise abgebrochen. Die Familie von Jennifer Ann Crecente verbrachte Jahre zu Ehren ihrer Tochter als sie mit ihrem Verlust kämpften. Laut ihrem Onkel waren die Bildungsprojekte ihres Vaters im Namen von Jennifer und seine Teilnahme an Videospiel-Design-Wettbewerben wichtige Möglichkeiten, ihre Erinnerung wachzuhalten. Eines Morgens jedoch wurde Jennifers Onkel durch eine E-Mail erschüttert. Auf Character.ai, einer KI-basierten Chatbot-Plattform, wurde ein Bot mit Jennifers Namen und Gesicht erstellt. Die Familie wurde nicht um Erlaubnis gefragt, und als sie es herausfand, spürten sie den Schmerz noch einmal.
Nachdem die Familie die erforderlichen Maßnahmen ergriffen hatte, war der Chatbot nicht mehr erreichbar. Warum lag es jedoch in der Verantwortung der Familie, diese Maßnahmen zu ergreifen? Der Bot wurde erst ausgeschaltet, nachdem Jennifers Onkel den Vorfall in den sozialen Medien veröffentlicht hatte. Was wäre, wenn er es nicht getan hätte?
Vielen Dank, dass Sie uns darauf aufmerksam gemacht haben. https://t.co/Ft9b0j47zQ hat Richtlinien gegen Identitätsdiebstahl und der Charakter, der den Namen von Frau Crecente verwendet, verstößt gegen unsere Richtlinien. Wir löschen es umgehend und prüfen, ob weitere Maßnahmen erforderlich sind.
— Character.AI (@character_ai) 2. Oktober 2024
Wie Brian Crecente in seinem Blogbeitrag schrieb: „Aus irgendeinem Grund hat es mich umgehauen, das lächelnde Gesicht meiner Jenny-Penny auf einer KI-Website neben ihrem Namen zu sehen, das als Identität für einen Chatbot verwendet wurde. Ich spüre es immer noch, als würden heiße und kalte Wellen über mich hinwegrauschen.“
Diese Situation verdeutlicht das individuelle Leid und ein großes rechtliches und ethisches Problem. Warum sind wir also mit solchen Situationen konfrontiert?
Werden die Rechte der Toten und Hinterbliebenen nicht geschützt?
Die unbefugte Verwendung der Namen, Gesichter und Persönlichkeiten von Toten führt zu großen Lücken in den bestehenden Gesetzen. Während in den meisten Ländern die Persönlichkeitsrechte lebender Menschen streng geschützt sind, gibt es keinen solchen Schutz für Verstorbene. Das bedeutet, dass Familien kaum etwas gegen die unbefugte Verwendung der Namen und Gesichter ihrer Angehörigen tun können. Aus rechtlicher Sicht ist es ein großes Problem, dass solche Situationen in den meisten Ländern nicht als Missbrauch oder Rechtsverletzung gewertet werden können.
Vater entsetzt über einen KI-Chatbot, der seine ermordete Tochter nachahmt via @forbes https://t.co/LoypMNg7uz
— Brian Crecente (@crecenteb) 2. Oktober 2024
Wie Crecente es ausdrückte: „Die Sache ist die: Warum liegt es an uns, widerstandsfähig zu sein? Warum machen sich milliardenschwere Unternehmen nicht die Mühe, ethische Leitprinzipien und funktionierende Leitplanken zu schaffen, um zu verhindern, dass dies jemals geschieht? Warum liegt es an den Trauernden und Geschädigten, dies einem Unternehmen zu melden und zu hoffen, dass sie im Nachhinein das Richtige tun?“
Diese Fragen weisen auf die frustrierenden Lücken in den Vorschriften und die Verzweiflung hin, die sie bei Menschen wie Jennifers Familie und anderen in ähnlichen Situationen hervorrufen.
KI nutzt die Toten aufgrund regulatorischer Lücken aus
Diese Situationen haben rechtliche und menschliche Konsequenzen, die wir nicht übersehen können. Solche Vorfälle erschüttern erneut die Bemühungen der Hinterbliebenen, die Erinnerung an ihre Angehörigen zu bewahren. Angesichts der größtenteils unregulierten Weiterentwicklung der KI-Technologie werden wir möglicherweise häufiger auf Situationen stoßen, in denen KI-Tools die Persönlichkeit, Namen und Bilder von Einzelpersonen ohne Zustimmung verwenden. Gesetzgeber und Regulierungsbehörden müssen umgehend Maßnahmen ergreifen, um diese Probleme anzugehen.
Wie dieser unglückliche Fall zeigt, gefährdet der Missbrauch der KI-Technologie das Wesen, das die Menschheit ausmacht, und stellt kommerzielle Interessen in den Vordergrund. Es ist von entscheidender Bedeutung, dass Gesetze diese Probleme rasch regeln und dass Unternehmen ihre ethische Verantwortung ernst nehmen, um weiteren Schaden und Missbrauch zu verhindern.
Bildnachweis: Brian Crecente über Padandpixel
Source: Wenn KI das Grab ausraubt und der Kampf um posthume Rechte beginnt