Deepfake-Datenkriege: Auch Amazon kämpft gegen Deepfakes
In den Deepfake-Datenkriegen wetteifern Detektive und Fälscher um das beste KI-Trainingsmaterial.
KI-gefälschte Videos, sogenannte Deepfakes, werden mitunter als politische Gefahr eingestuft. Denn wenn Videos nicht mehr als verlässliche Quelle für Informationen dienen, oder umgekehrt, glaubhaft gefälschte Videos gezielt Falschinformationen verbreiten, bricht ein wichtiger Pfeiler gesellschaftlicher Kommunikation in sich zusammen.
Natürlich existieren Videofälschungen nicht erst seit Deepfakes, aber KI-Technologie beschleunigt die Produktion, bringt sie in die Breite und erhöht ihre Suggestionskraft. Allein diese drei Faktoren in Kombination mit der weiten Verbreitung von Videos in Social Media könnten zu einer Informationsapokalypse führen, so eine gängige Befürchtung.
Gerade mit Blick auf die nahenden US-Wahlen suchen Politiker, Forscher und Unternehmen daher fieberhaft nach einer Methode, Deepfakes verlässlich zu identifizieren.
Amazon unterstützt Facebooks Anti-Deepfake-Wettbewerb
Ein entscheidender Erfolgsfaktor für Anti-Deepfake-Algorithmen sind hochwertige Datensätze: So wie eine KI mit Bilddaten trainiert wird, um Deepfakes zu generieren, kann sie auch mit Bilddaten trainiert werden, um sie zu identifizieren. Jedenfalls ist das die Theorie, von der nicht alle Deepfake-Experten überzeugt sind.
So oder so: Facebook mit Partnern wie Microsoft und Google veröffentlichen frei verfügbare Datensätze mit mehreren tausend Deepfakes, die für das Training eines Deepfake-Erkennungsalgorithmus verwendet werden können. Für die Deepfake-Videos im Datensatz heuerten die Konzerne eigens Schauspieler an.
Jetzt beteiligt sich auch Amazon im Kampf gegen Deepfakes: Amazon Web Services unterstützt Facebooks Anti-Deepfake-Wettbewerb mit KI-Beratungsleistungen sowie einer Million US-Dollar für Cloud-Computing.
Facebook veröffentlicht außerdem die ersten 5.000 von geplanten 100.000 Deepfake-Trainingsvideos. Teilnehmer des Wettbewerbs sollen diese auf ihre Tauglichkeit prüfen. Der komplette Datensatz soll im Dezember zum Start des Wettbewerbs erscheinen, zu gewinnen gibt es Fördergelder und Preise.
Über die gesellschaftlichen Risiken von Deepfakes diskutieren wir ausführlich im MIXED.de-Podcast #159.
Titelbild: Facebook (Screenshot)
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.