Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Von Algorithmen täuschend echt gefälschte Bilder und Videos könnten in naher Zukunft das Internet überschwemmen. Das US-Verteidigungsministerium bereitet sich vor.

Die US-Behörde Defense Advanced Research Projects Agency (DARPA) legt ein Forschungsprogramm für die Analyse KI-gefälschter Videos auf. Das Forschungsprogramm wird initiiert durch die 2015 gestartete DARPA-Gruppe "Media Forensics", die auf die Analyse gefälschter Medien spezialisiert ist.

Techcrunch berichtet, dass Forschungsaufträge an SRI International vergeben wurde, einem etablierten Forschungsinstitut an der Stanford Universität. Das Institut kooperiert mit Forschern aus Amsterdam und der Schweiz.

Die Wissenschaftler fokussieren sich auf vier Bereiche, in denen mögliche Inkonsistenzen ein Fake-Video entlarven können: Die Synchronität von Lippenbewegungen, audiovisuelle Auffälligkeiten am Sprecher und in der Szene sowie Veränderungen an der Bildwiederholrate, die darauf hinweisen, dass Inhalte eingefügt wurden.

Anzeige
Anzeige

Die Wissenschaftler schätzen ihre Arbeit in einem gesellschaftlichen Kontext als sehr relevant ein: Sie erwarten, dass die Qualität von gefälschten Videos in naher Zukunft "dramatisch" steigt.

Neue Fälschungstechniken ermöglichten es Hackern und normalen Anwendern gleichermaßen, "sehr realistische Videos von Menschen anzufertigen, die Dinge sagen und machen, die sie nie gesagt oder gemacht haben", so ein SRI-Sprecher gegenüber Techcrunch.

Über Deepfakes

KI-Fakes erlangten große Aufmerksamkeit, als Ende letzten Jahres der Reddit-Nutzer Deepfakes eine KI-gestützte Software veröffentlichte, die ohne großen Aufwand Gesichter in Videos durch andere ersetzen kann.

Die von Deepfakes gegründete Reddit-Gruppe nutzte die Technik, um in Pornofilmen die Gesichter der Darstellerinnen durch die berühmter Frauen zu ersetzen. Die Reddit-Gruppe wurde mittlerweile gelöscht, die KI-Software verbreitete sich aber schnell im Netz und ist kostenlos verfügbar. Mehr Informationen zu Deepfakes stehen hier.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Weiterlesen über KI-Fakes:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!