Von Algorithmen täuschend echt gefälschte Bilder und Videos könnten in naher Zukunft das Internet überschwemmen. Das US-Verteidigungsministerium bereitet sich vor.
Die US-Behörde Defense Advanced Research Projects Agency (DARPA) legt ein Forschungsprogramm für die Analyse KI-gefälschter Videos auf. Das Forschungsprogramm wird initiiert durch die 2015 gestartete DARPA-Gruppe "Media Forensics", die auf die Analyse gefälschter Medien spezialisiert ist.
Techcrunch berichtet, dass Forschungsaufträge an SRI International vergeben wurde, einem etablierten Forschungsinstitut an der Stanford Universität. Das Institut kooperiert mit Forschern aus Amsterdam und der Schweiz.
Die Wissenschaftler fokussieren sich auf vier Bereiche, in denen mögliche Inkonsistenzen ein Fake-Video entlarven können: Die Synchronität von Lippenbewegungen, audiovisuelle Auffälligkeiten am Sprecher und in der Szene sowie Veränderungen an der Bildwiederholrate, die darauf hinweisen, dass Inhalte eingefügt wurden.
Die Wissenschaftler schätzen ihre Arbeit in einem gesellschaftlichen Kontext als sehr relevant ein: Sie erwarten, dass die Qualität von gefälschten Videos in naher Zukunft "dramatisch" steigt.
Neue Fälschungstechniken ermöglichten es Hackern und normalen Anwendern gleichermaßen, "sehr realistische Videos von Menschen anzufertigen, die Dinge sagen und machen, die sie nie gesagt oder gemacht haben", so ein SRI-Sprecher gegenüber Techcrunch.
Über Deepfakes
KI-Fakes erlangten große Aufmerksamkeit, als Ende letzten Jahres der Reddit-Nutzer Deepfakes eine KI-gestützte Software veröffentlichte, die ohne großen Aufwand Gesichter in Videos durch andere ersetzen kann.
Die von Deepfakes gegründete Reddit-Gruppe nutzte die Technik, um in Pornofilmen die Gesichter der Darstellerinnen durch die berühmter Frauen zu ersetzen. Die Reddit-Gruppe wurde mittlerweile gelöscht, die KI-Software verbreitete sich aber schnell im Netz und ist kostenlos verfügbar. Mehr Informationen zu Deepfakes stehen hier.
