Deepfakes werden für eine Vielzahl von Zwecken verwendet, unter anderem im Rahmen von Desinformationskampagnen, und es wird immer schwieriger, diese bearbeiteten Bilder zu erkennen.
Wie erkennt diese KI Deepfake-Bilder?
Aber es gibt ein neues KI-Tool, um diese gefälschten Videos zu erkennen. Es überprüft das in den Augen reflektierte Licht.
Das Projekt wurde von einem Team von Informatikern der University at Buffalo erstellt. Laut der Studie konnte diese neue KI Deepfake-Porträtbilder mit einer überraschenden Erfolgsquote von 94 % erkennen.
Das System legt die gefälschten Bilder frei, indem es „die inkonsistenten kornealen Glanzlichter zwischen zwei Augen“ analysiert.
Wenn wir ein echtes Gesicht fotografieren, ist die Reflexion auf den beiden Augen ähnlich. Weil sie dasselbe sehen. Aber im Allgemeinen können Deepfake-Bilder diese Ähnlichkeit nicht genau erfassen und sind daher nicht in der Lage, das wahre Abbild der Person zu erfassen, die sie zu imitieren versuchen.
Das System analysiert das Bild und berechnet dann einen Score, der verwendet wird, um die Ähnlichkeit einer Person zu einer anderen zu bestimmen.
Der offensichtlichste Nachteil des Werkzeugs besteht darin, dass es eine reflektierte Lichtquelle in beiden Augen erfordert. Diese Muster können durch manuelle Nachbearbeitung leicht korrigiert werden und die Methode funktioniert nicht, wenn ein Auge im Bild fehlt.
Microsoft kauft Nuance, das KI-Unternehmen, das Siri verwendet, für 19,7 Milliarden US-Dollar
Außerdem ist es wahrscheinlich, dass das System falsche Ergebnisse liefert, wenn die Person auf dem Bild nicht in die Kamera schaut.
