Meta entwickelt ein webbasiertes Tool zur Identifizierung von Bildern und Videos, die mit seinem Muse Image-Modell generiert wurden. Laut einem Blogbeitrag des Unternehmens kann das Tool unsichtbare Wasserzeichen erkennen, die als „Content Seal“ bekannt sind und intakt bleiben, wenn Bilder zugeschnitten, in der Größe geändert oder Screenshots erstellt werden.
Das Content Seal-Wasserzeichensystem ist proprietär, eine Abkehr von Metas früheren Open-Source-Versionen der Technologie. Im Gegensatz zu früheren Modellen, die sichtbare Wasserzeichen verwendeten, zeigen die aktuellen Modelle keine Logos an, erklärte Meta. Die Erkennungsfunktionen konzentrieren sich ausschließlich auf Bilder, die mit Muse Image erstellt oder bearbeitet wurden. Das Unternehmen plant jedoch, das Wasserzeichensystem in Zukunft auf KI-generierte und bearbeitete Videos auszudehnen.
Tests des Erkennungstools zeigten, dass es Wasserzeichen sowohl in bearbeiteten als auch vollständig von KI erstellten Bildern erfolgreich identifizieren konnte. Ein positives Erkennungsergebnis weist laut Meta darauf hin, dass das Bild mit Meta AI oder meta.ai verarbeitet wurde. Umgekehrt deutet ein negatives Ergebnis darauf hin, dass es unwahrscheinlich ist, dass das Bild mit den Tools von Meta erstellt wurde.
Trotz dieser Erkennungsmöglichkeiten ist die Funktion noch nicht in die Meta AI-App selbst integriert. Eine Anfrage an den App-basierten Assistenten von Meta ergab, dass dieser nicht in der Lage ist, die Erzeugungsquelle eines Bildes zu bestätigen: „Ich kann Ihnen nicht eindeutig sagen, ob dieses spezielle Bild mit Meta AI erstellt wurde, indem ich es mir nur ansehe.“ Der Assistent stellte fest, dass die App Bilder nicht automatisch mit Wasserzeichen versieht.
Meta wurde wegen seiner Kennzeichnungspraktiken für KI-Inhalte einer genauen Prüfung unterzogen. Das Oversight Board äußerte Bedenken hinsichtlich Inkonsistenzen bei der Implementierung digitaler Wasserzeichen auf KI-generierten Inhalten. Das Content Seal-System ist nicht mit anderen etablierten Wasserzeichenmethoden wie SynthID oder C2PA Content Credentials kompatibel.
Während des Tests traten weitere Einschränkungen des Erkennungstools auf, das Bilder, die mit älteren Versionen der KI von Meta erstellt wurden, nicht identifizieren konnte. Benutzer erlebten auch Ratenbegrenzungen und erhielten Benachrichtigungen, wenn sie ihr Tagesmaximum für Identifikationsüberprüfungen erreichten.
Meta entwickelt außerdem ein separates Videogenerierungsmodell namens Muse Video, das voraussichtlich bald eingeführt wird. Derzeit ist die Erkennungsfunktion über die Meta AI-App weiterhin nicht zugänglich.
