In den Deepfake-Datenkriegen wetteifern Detektive und Fälscher um das beste KI-Trainingsmaterial.
KI-gefälschte Videos, sogenannte Deepfakes, werden mitunter als politische Gefahr eingestuft. Denn wenn Videos nicht mehr als verlässliche Quelle für Informationen dienen, oder umgekehrt, glaubhaft gefälschte Videos gezielt Falschinformationen verbreiten, bricht ein wichtiger Pfeiler gesellschaftlicher Kommunikation in sich zusammen.
Natürlich existieren Videofälschungen nicht erst seit Deepfakes, aber KI-Technologie beschleunigt die Produktion, bringt sie in die Breite und erhöht ihre Suggestionskraft. Allein diese drei Faktoren in Kombination mit der weiten Verbreitung von Videos in Social Media könnten zu einer Informationsapokalypse führen, so eine gängige Befürchtung.
Gerade mit Blick auf die nahenden US-Wahlen suchen Politiker, Forscher und Unternehmen daher fieberhaft nach einer Methode, Deepfakes verlässlich zu identifizieren.
Amazon unterstützt Facebooks Anti-Deepfake-Wettbewerb
Ein entscheidender Erfolgsfaktor für Anti-Deepfake-Algorithmen sind hochwertige Datensätze: So wie eine KI mit Bilddaten trainiert wird, um Deepfakes zu generieren, kann sie auch mit Bilddaten trainiert werden, um sie zu identifizieren. Jedenfalls ist das die Theorie, von der nicht alle Deepfake-Experten überzeugt sind.
So oder so: Facebook mit Partnern wie Microsoft und Google veröffentlichen frei verfügbare Datensätze mit mehreren tausend Deepfakes, die für das Training eines Deepfake-Erkennungsalgorithmus verwendet werden können. Für die Deepfake-Videos im Datensatz heuerten die Konzerne eigens Schauspieler an.
Jetzt beteiligt sich auch Amazon im Kampf gegen Deepfakes: Amazon Web Services unterstützt Facebooks Anti-Deepfake-Wettbewerb mit KI-Beratungsleistungen sowie einer Million US-Dollar für Cloud-Computing.
Facebook veröffentlicht außerdem die ersten 5.000 von geplanten 100.000 Deepfake-Trainingsvideos. Teilnehmer des Wettbewerbs sollen diese auf ihre Tauglichkeit prüfen. Der komplette Datensatz soll im Dezember zum Start des Wettbewerbs erscheinen, zu gewinnen gibt es Fördergelder und Preise.
Über die gesellschaftlichen Risiken von Deepfakes diskutieren wir ausführlich im MIXED.de-Podcast #159.
Titelbild: Facebook (Screenshot)