Google veröffentlicht 3.000 Deepfake-Videos - für die Wissenschaft
Googles Deepfake-Datenbank soll im Kampf gegen eben jene helfen. Sie bietet Trainingsmaterial für Erkennungsalgorithmen.
Seit Deepfakes Ende 2017 erstmals im Internet auftauchten, haben sie sich rasant entwickelt: Täglich tauchen neue Videos auf, in denen zum Beispiel Schauspieler Gesichter tauschen oder US-Präsident Trump Geldwäsche-Tipps gibt. Politiker, Forscher und Technologiekonzerne warnen vor dem Missbrauchspotenzial etwa in der US-Präsidentschaftswahl 2020.
Um diesem möglichen Missbrauch entgegenzuwirken, wird an KI-Werkzeugen gearbeitet, die Deepfakes automatisiert erkennen und so entschärfen sollen. Anfang des Monats starteten Facebook, Microsoft und das Techkonsortium "Partnership on AI" etwa die Deepfake Detection Challenge. Durch den Wettbewerb sollen neue und bessere Erkennungsmethoden für Deepfakes entstehen.
Mit Deepfakes gegen Deepfakes
Teil des Wettbewerbs soll auch eine umfassende Deepfake-Datenbank sein. Mit der sollen die Teilnehmer ihre Erkennungsalgorithmen trainieren und testen können. Die Datenbank ist für Ende des Jahres angekündigt.
Noch vor Facebook veröffentlicht nun Google eine Sammlung mit 3.000 manipulierten Deepfake-Videos. Für die hat Google eigens insgesamt 28 Schauspieler angeheuert und ihre Gesichter mit verbreiteten Deepfake-Algorithmen verändert.
Google kooperiert mit der TU München und der Universität Neapel Federico II. Die beiden Universitäten veröffentlichten bereits im Januar einen Deepfake-Datensatz. Dieser wurde nun mit Googles Daten erweitert und läuft unter dem Namen "FaceForensics++".
Katz-und-Maus-Spiel zwischen Deepfakes und Erkennungsalgorithmen
Auch diese Datenbank soll dem Training von Erkennungsalgorithmen dienen. Sie kann kann kostenlos auf GitHub heruntergeladen werden. Google will FaceForensics++ ständig erweitern und so der Weiterentwicklung der Deepfake-Technologie Rechnung tragen.
Ob Google das Katz-und-Maus-Spiel zwischen Deepfake- und Erkennungs-KIs gewinnen kann, bleibt abzuwarten. Im Bereich der Fake-News-KIs funktioniert dieser Ansatz noch: Zum Beispiel erkennt der Fake-News-Detektor Grover KI-generierte Texte mit hoher Genauigkeit.
Doch KI-Forscher wie der Bildbearbeitungsprofi Hao Li sind skeptisch. Laut Li wird es in zwei bis drei Jahren unmöglich sein, Deepfakes zu identifizieren, da Videos letztlich nur bunte Pixel seien und somit perfekt gefälscht werden könnten. Dann bliebe nur, sich mit der neuen Wirklichkeit abzufinden: dass man Videos im Internet kaum noch vertrauen kann.
Quelle: Google
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.