Deepfakes sind auf Facebook-Plattformen ab sofort verboten. Ob das was bringt, ist eine andere Frage.
In einer Mitteilung schließt Facebook explizit mittels Deep Learning gefälschte Videos, sogenannte Deepfakes, von den eigenen Social-Plattformen aus.
Entsprechende Videos seien zwar noch selten, sie stellen laut Facebook mit zunehmender Verbreitung aber eine "signifikante Herausforderung für unsere Industrie und die Gesellschaft dar".
In Zukunft sollen manipulierte Videos entfernt werden, in denen einer Person in einem Video Worte so in den Mund gelegt werden, dass die Manipulation für eine "Durchschnittsperson" nicht ersichtlich ist. Außerdem muss das Video "ein Produkt Künstlicher Intelligenz oder des maschinellen Lernens sein" und Inhalte glaubhaft vermischen, ersetzen oder überlagern.
Satirische oder parodistische Deepfakes sind von dieser Regelung ausgeschlossen, ebenso wie Videos, bei denen nur die Reihenfolge der Wörter verändert wurde, beispielsweise durch einen entsprechenden Schnitt. Gerade die Satire- und Parodie-Regelung lässt Spielraum für Interpretationen.
Deepfakes: Social Media wappnet sich für die US-Wahlen
Facebooks Anti-Deepfake-Regelung ist eine Neuausrichtung: Das soziale Netzwerk musste sich schon im Juni zu Deepfakes positionieren, als eine Organisation ein Deepfake-Video von Facebook-Chef Mark Zuckerberg bei Instagram verbreitete.
Damals hieß es noch, Deepfakes würden so wie andere irreführende oder manipulierte Inhalte algorithmisch zwar abgewertet, aber eben nicht gelöscht. Diese Regelung ist nun hinfällig, auch wenn Deepfake-Zuckerberg derzeit weiter online ist. Womöglich greift hier die Satire-Regelung.
Im Vorfeld der US-Wahlen positionierte sich zuvor Twitter zu Deepfakes: Im November stellte das Unternehmen neue Maßnahmen gegen Deepfake-Medien auf der eigenen Plattform vor. Unter anderem sollen verdächtige Tweets mit Warnhinweisen versehen und gegebenenfalls gelöscht werden.
Im politischen Kontext wurde in China kürzlich ein Deepfake-Verbot veranlasst, ebenso wie im US-Bundesstaat Kalifornien.
Deepfakes-Verbot ist nutzlos ohne Deepfake-Detektoren
Facebook und Google arbeiten an Werkzeugen, mit denen Deepfakes verlässlich identifiziert werden können. Dafür stellen sie Deepfake-Datenbanken für das KI-Training ins Netz. Facebook rief eigens einen Deepfake-Wettbewerb aus, bei dem Experten weltweit um die besten Erkennungsalgorithmen konkurrieren.
Offen ist, ob die großen Social-Plattformen das Katz-und-Maus-Spiel bei der Deepfakes-Erkennung für sich entscheiden können. Der KI-Forscher Hao Li geht davon aus, dass Deepfakes über kurz oder lang nicht mehr als solche erkannt werden können, da sie visuelle Perfektion erreichen.
Titelbild: Facebook, bill_posters_uk (Screenshot), Quelle: Facebook
