Künstliche Intelligenz erkennt Fake-Videos - und optimiert sie
KI-Forscher stellen eine Analyse-KI vor, die gefälschte Gesichter in Videos verlässlich entlarvt - und anschließend die letzten Bildfehler ausmerzt.
Welche der Standaufnahmen in der Titelbild-Montage sind real - und welche nur gefälscht? Die Chance ist hoch, dass das kein Mensch erkennt. Die Antwort steht im letzten Satz des Artikels.
Dass solche Video-Fälschungen immer leichter zu produzieren sind und gleichzeitig überzeugender wirken, könnte zu einem gesellschaftlichen Problem werden. Gefälschte Promi-Pornos deuten das an oder Fake-Videos von Politikern, denen jedes Wort in den Mund gelegt wird.
Fake-Videos verlässlich als solche zu entlarven, könnte daher sehr wichtig werden. Eine Forschungsgruppe der TU München sowie der Universitäten Erlangen-Nürnberg und Neapel Federico II stellen die Analyse-KI "XceptionNet" vor, die das - zumindest für den Moment - leisten kann.
Kompression schützt die Fälschung
Umso stärker ein Video komprimiert ist, desto weniger verlässlich ist die Pixel-basierte Auswertung einer Analyse-KI. Bei umkomprimierten und leicht komprimierten Videos erkennt XceptionNet so gut wie jedes Fake-Video verlässlich.
Bei stark komprimierten Videos - wie man sie häufig in Social Media vorfindet - werden immerhin fast 88 Prozent der Fälschungen entlarvt. Gerade hier schneidet XceptionNet etwas besser ab als vergleichbare Ansätze aus 2016 und 2017.
Die Basis für diesen Fortschritt bildet ein eigens geschaffener Datensatz, mit dem XceptionNet trainiert wurde. Der Datensatz enthält über 500.000 Standaufnahmen aus 1.004 Videos. Laut den Forschern übertrifft diese Sammlung an manipulierten Aufnahmen bisherige vergleichbare Datensätze deutlich.
Erkannte Bildfehler können ausgebessert werden
Eine Besonderheit von XceptionNet ist es, dass die Analyse-KI Bildfehler in manipulierten Videos nicht nur erkennen, sondern in einem zweiten Schritt auch ausbessern kann. Die Fälschungen sind dann - zumindest für das menschliche Auge - im Grunde nicht mehr von realen Aufnahmen zu unterscheiden.
XceptionNet selbst ist von den optimierten Fakes allerdings weitgehend unbeeindruckt und erkennt sie fast so verlässlich, wie die ursprünglichen Fälschungen.
Dass sich die KI so selbst auf die Probe stellt und diese besteht, ist wichtig. Womöglich kann so ein Wettrennen zwischen Fälschern und Detektoren vermieden werden.
Weitere Informationen stehen auf der offiziellen Projektseite. Im Titelbild ist immer das obere Standbild real.
Weiterlesen über KI-Fake-Medien:
- Favorisieren YouTubes Algorithmen Fake News?
- KI vs. KI: Algorithmen sollen das Netz von Fake-Pornos säubern
- Künstliche Intelligenz generiert gefälschte Audioaufnahmen
- KI-Forscher glaubt an neues Multimedia-Fake-Zeitalter
| Via: Technology Review
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.