Künstliche Intelligenz: DARPA rüstet gegen Deepfakes auf
Von Algorithmen täuschend echt gefälschte Bilder und Videos könnten in naher Zukunft das Internet überschwemmen. Das US-Verteidigungsministerium bereitet sich vor.
Die US-Behörde Defense Advanced Research Projects Agency (DARPA) legt ein Forschungsprogramm für die Analyse KI-gefälschter Videos auf. Das Forschungsprogramm wird initiiert durch die 2015 gestartete DARPA-Gruppe "Media Forensics", die auf die Analyse gefälschter Medien spezialisiert ist.
Techcrunch berichtet, dass Forschungsaufträge an SRI International vergeben wurde, einem etablierten Forschungsinstitut an der Stanford Universität. Das Institut kooperiert mit Forschern aus Amsterdam und der Schweiz.
Die Wissenschaftler fokussieren sich auf vier Bereiche, in denen mögliche Inkonsistenzen ein Fake-Video entlarven können: Die Synchronität von Lippenbewegungen, audiovisuelle Auffälligkeiten am Sprecher und in der Szene sowie Veränderungen an der Bildwiederholrate, die darauf hinweisen, dass Inhalte eingefügt wurden.
Die Wissenschaftler schätzen ihre Arbeit in einem gesellschaftlichen Kontext als sehr relevant ein: Sie erwarten, dass die Qualität von gefälschten Videos in naher Zukunft "dramatisch" steigt.
Neue Fälschungstechniken ermöglichten es Hackern und normalen Anwendern gleichermaßen, "sehr realistische Videos von Menschen anzufertigen, die Dinge sagen und machen, die sie nie gesagt oder gemacht haben", so ein SRI-Sprecher gegenüber Techcrunch.
Über Deepfakes
KI-Fakes erlangten große Aufmerksamkeit, als Ende letzten Jahres der Reddit-Nutzer Deepfakes eine KI-gestützte Software veröffentlichte, die ohne großen Aufwand Gesichter in Videos durch andere ersetzen kann.
Die von Deepfakes gegründete Reddit-Gruppe nutzte die Technik, um in Pornofilmen die Gesichter der Darstellerinnen durch die berühmter Frauen zu ersetzen. Die Reddit-Gruppe wurde mittlerweile gelöscht, die KI-Software verbreitete sich aber schnell im Netz und ist kostenlos verfügbar. Mehr Informationen zu Deepfakes stehen hier.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.