Start News Facebook arbeitet an einer Methode, um die Herkunft eines Deepfakes zu identifizieren

Facebook arbeitet an einer Methode, um die Herkunft eines Deepfakes zu identifizieren

Deepfakes gibt es im Überfluss im Web und einige sie sind sehr schwer zu identifizieren. Die Technologie hinter diesen Fälschungen ermöglicht immer realistischere Endergebnisse, und das ist ein echtes Problem. Facebook ist eines der vielen Unternehmen, das an der Entwicklung von Tools arbeitet, um sie zu erkennen, und in den letzten Stunden spürbare Fortschritte gemacht hat.

Das soziale Netzwerk hat sich mit der Michigan State University (MSU) zusammengetan, um eine Methode zu entwickeln, die nicht nur versucht, Deepfakes zu identifizieren, sondern aber auch seinen Ursprung verfolgen. Dafür setzt es auf Reverse Engineering. Was bedeutet das? Dass die Technologie anhand der Analyse eines Bildes feststellen kann, ob es künstlich erzeugt wurde und welches generative Modell verwendet wurde, um es zu erzeugen.

Die Facebook-Methode befindet sich noch in der Entwicklung und ist weit von einer realen oder massenhaften Implementierung entfernt. Auf jeden Fall stellt es angesichts eines wachsenden Problems einen wichtigen Schritt nach vorn dar.

Facebook will die Herkunft eines Deepfakes herausfinden

Facebook-Deepfake

Die Technologie hinter der Erstellung von Deepfakes entwickelt sich ständig weiter, und das macht es sehr schwierig, Hinweise auf ihre Quelle zu finden. Facebook behauptet jedoch, dass seine Methode kann subtile Muster erkennen die von dem Gerät, das sie erstellt hat, auf die gefälschten Bilder „gedruckt“ werden. Da jedes generative Modell seine Besonderheiten hat, würde die neue Technologie gemeinsame Merkmale zwischen verschiedenen Deepfakes identifizieren und feststellen, ob sie einen gemeinsamen Ursprung haben.

Während es bereits Techniken gibt, die erkennen, mit welchem ​​bekannten Modell ein Deepfake erstellt wurde, geht Facebook noch weiter. Das Projekt zielt darauf ab, die „architektonischen Merkmale“ (sogenannte Hyperparameter) unbekannter Modelle zu identifizieren, um später zwischen den Mustern zu unterscheiden, die im endgültigen Bild verbleiben.

„Angenommen, ein schlechter Schauspieler generiert viele Deepfakes und lädt sie auf verschiedene Plattformen für verschiedene Benutzer hoch. Wenn es ein neues KI-Modell wäre, das noch niemand zuvor gesehen hat, könnten wir in der Vergangenheit wenig darüber sagen. Bild, das hier hochgeladen wurde, und das Bild, das dort hochgeladen wurde, stammt von demselben Modell: „Und wenn wir es schaffen, den Laptop oder Computer zu ergattern, mit dem der Inhalt erstellt wurde, können wir sagen: „Das ist der Täter“„Tal Hassner, der Forschungsleiter von Facebook, sagte gegenüber The Verge.

Es ist interessant, wie die Forschung voranschreitet, um „Fingerabdrücke“ in Deepfakes zu erkennen und deren Herkunft zu verfolgen, obwohl die Technologie, mit der sie erstellt wurden, unbekannt ist. Jedoch, Facebook navigiert durch unbekanntes Terrain, und seine Spezialisten erkennen, dass es sich um eine Art Katz-und-Maus-Spiel handelt.

Vorheriger ArtikelPodimo hat mehr als eine Million Euro in seinen Podcast-Katalog investiert
Nächster ArtikelSollte das Internet von einem Oligopol abhängen?