Meta entwickelt ein webbasiertes Erkennungstool zur Identifizierung von Bildern und Videos, die mit seinem Bilderzeugungsmodell Muse Image erstellt wurden. Dieses Tool überprüft das Vorhandensein unsichtbarer Wasserzeichen, die als Content Seal bezeichnet werden und in generierte Inhalte eingebettet sind.
Laut Meta bleibt das Content Seal unabhängig von Bildmanipulationen, einschließlich Zuschneiden, Komprimieren, Größenänderung oder Screenshots, intakt. Das Unternehmen gab an, dass das Tool Benutzern einen ersten Mechanismus bietet, um festzustellen, ob ein Bild ein Content Seal-Wasserzeichen trägt.
Der von Muse Image verwendete Wasserzeichenansatz ist proprietär und unterscheidet sich von früheren Open-Source-Versionen, die von Meta veröffentlicht wurden. Die aktuelle Version der KI-Modelle von Meta verwendet keine sichtbaren Wasserzeichen, eine Abweichung von früheren Modellen, die Logos in den Bildern enthielten.
Derzeit sind die Erkennungsfunktionen auf Bilder beschränkt, die mit Muse Image erstellt oder bearbeitet wurden. Meta plant, Content Seal-Wasserzeichen in Zukunft auf KI-generierte und bearbeitete Videos auszudehnen. Das Unternehmen entwickelt außerdem ein separates Videogenerierungsmodell namens Muse Video, das voraussichtlich bald auf den Markt kommt.
Tests des Erkennungstools bestätigten seine Fähigkeit, Wasserzeichen sowohl in bearbeiteten als auch vollständig von KI generierten Bildern zu erkennen. Eine positive Erkennung weist darauf hin, dass das Bild mit der Meta AI-App oder meta.ai erstellt wurde, während ein negatives Ergebnis darauf hindeutet, dass es unwahrscheinlich mit Meta AI verarbeitet wurde. Allerdings ist die Erkennungsfunktion nicht in die Meta AI-App selbst integriert; Der Assistent der App bestätigte, dass er nicht feststellen kann, ob ein bestimmtes Bild von Meta AI erstellt wurde.
Meta wurde wegen der inkonsistenten Anwendung digitaler Wasserzeichen für KI-generierte Inhalte untersucht. Das Aufsichtsgremium äußerte Anfang des Jahres Bedenken hinsichtlich der Praktiken des Unternehmens bei der Kennzeichnung von KI-produziertem Material. Content Seal ist nicht mit etablierten Wasserzeichenmethoden wie SynthID und C2PA Content Credentials kompatibel.
Bei jüngsten Tests konnte das Erkennungstool keine Bilder identifizieren, die mit früheren Versionen der KI-Modelle von Meta erstellt oder bearbeitet wurden. Darüber hinaus stoßen Benutzer des Tools auf Ratenbeschränkungen und erhalten Benachrichtigungen, sobald sie ihren täglichen Schwellenwert für Identifikationsüberprüfungen erreichen.
