Metas neues KI-Erkennungstool, das diese Woche zusammen mit dem Start seines Bildgenerierungsmodells Muse Image als Vorschau veröffentlicht wurde, konnte einige seiner eigenen KI-generierten Bilder nach dem Zuschneiden nicht identifizieren, wie eine am 10. Juli veröffentlichte Reuters-Analyse ergab.
Bei einer Analyse von 40 mit Muse Image generierten Bildern stellte Reuters fest, dass das Erkennungstool alle Original-KI-Bilder überprüfte, aber 55 % derselben Bilder nach dem Zuschneiden auf etwa ein Drittel bis die Hälfte ihrer Originalgröße nicht verifizieren konnte.
Meta behauptet auf seiner Website, dass das Vorschau-Erkennungstool seine eigenen KI-generierten Bilder, selbst wenn sie beschnitten sind, durch ein unsichtbares Wasserzeichensystem namens Content Seal identifizieren kann, das in jede Muse Image-Ausgabe eingebettet ist. Auf die Reuters-Ergebnisse angesprochen, räumte Meta jedoch ein, dass das Tool nur eine Vorschau sei und das Wasserzeichensignal bei starkem Zuschneiden verloren gehen könne.
Der Befund verdeutlicht die Herausforderungen bei der Überprüfung KI-generierter Inhalte nach üblichen Veränderungen – eine Einschränkung, die es in einem geschäftigen Wahljahr mit den US-Zwischenwahlen erschweren könnte, Deepfakes online zu identifizieren.
