Inhalt
newsletter Newsletter

Deepfakes sind auf Facebook-Plattformen ab sofort verboten. Ob das was bringt, ist eine andere Frage.

Anzeige

In einer Mitteilung schließt Facebook explizit mittels Deep Learning gefälschte Videos, sogenannte Deepfakes, von den eigenen Social-Plattformen aus.

Entsprechende Videos seien zwar noch selten, sie stellen laut Facebook mit zunehmender Verbreitung aber eine "signifikante Herausforderung für unsere Industrie und die Gesellschaft dar".

In Zukunft sollen manipulierte Videos entfernt werden, in denen einer Person in einem Video Worte so in den Mund gelegt werden, dass die Manipulation für eine "Durchschnittsperson" nicht ersichtlich ist. Außerdem muss das Video "ein Produkt Künstlicher Intelligenz oder des maschinellen Lernens sein" und Inhalte glaubhaft vermischen, ersetzen oder überlagern.

Anzeige
Anzeige

Satirische oder parodistische Deepfakes sind von dieser Regelung ausgeschlossen, ebenso wie Videos, bei denen nur die Reihenfolge der Wörter verändert wurde, beispielsweise durch einen entsprechenden Schnitt. Gerade die Satire- und Parodie-Regelung lässt Spielraum für Interpretationen.

Deepfakes: Social Media wappnet sich für die US-Wahlen

Facebooks Anti-Deepfake-Regelung ist eine Neuausrichtung: Das soziale Netzwerk musste sich schon im Juni zu Deepfakes positionieren, als eine Organisation ein Deepfake-Video von Facebook-Chef Mark Zuckerberg bei Instagram verbreitete.

Damals hieß es noch, Deepfakes würden so wie andere irreführende oder manipulierte Inhalte algorithmisch zwar abgewertet, aber eben nicht gelöscht. Diese Regelung ist nun hinfällig, auch wenn Deepfake-Zuckerberg derzeit weiter online ist. Womöglich greift hier die Satire-Regelung.

Im Vorfeld der US-Wahlen positionierte sich zuvor Twitter zu Deepfakes: Im November stellte das Unternehmen neue Maßnahmen gegen Deepfake-Medien auf der eigenen Plattform vor. Unter anderem sollen verdächtige Tweets mit Warnhinweisen versehen und gegebenenfalls gelöscht werden.

Im politischen Kontext wurde in China kürzlich ein Deepfake-Verbot veranlasst, ebenso wie im US-Bundesstaat Kalifornien.

Empfehlung

Deepfakes-Verbot ist nutzlos ohne Deepfake-Detektoren

Facebook und Google arbeiten an Werkzeugen, mit denen Deepfakes verlässlich identifiziert werden können. Dafür stellen sie Deepfake-Datenbanken für das KI-Training ins Netz. Facebook rief eigens einen Deepfake-Wettbewerb aus, bei dem Experten weltweit um die besten Erkennungsalgorithmen konkurrieren.

Offen ist, ob die großen Social-Plattformen das Katz-und-Maus-Spiel bei der Deepfakes-Erkennung für sich entscheiden können. Der KI-Forscher Hao Li geht davon aus, dass Deepfakes über kurz oder lang nicht mehr als solche erkannt werden können, da sie visuelle Perfektion erreichen.

Titelbild: Facebook, bill_posters_uk (Screenshot), Quelle: Facebook

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Weiterlesen über Deepfakes:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!