Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Ein neues Werkzeug soll Journalisten im Kampf gegen Fake-Fotos und Deepfakes beistehen.

Deepfakes sind ein heißes Thema im amerikanischen Wahlkampf: Twitter, Facebook, Reddit und YouTube wollen die manipulierten Videos aus dem Wahlkampf verbannen oder ihre Verbreitung stark einschränken.

Die Google-Schwester Jigsaw stellt mit "Assembler" nun ein neues, KI-gestütztes Werkzeug vor, das Deepfakes und andere manipulierte Bilder erkennen soll. Assembler soll jedoch keine sozialen Netzwerke verwalten – es richtet sich gezielt an Journalisten. Die sollen mit Assembler manipulierte Bilder zuverlässig und schnell identifizieren.

Assembler ist bereits im Einsatz

Aktuell wird Assembler von einer Gruppe ausgewählter Publikationen getestet, darunter Animal Politico in Mexiko, Rappler in den Philippinen und der französischen Agence France-Presse. Eine frei zugängliche Version ist aktuell nicht geplant, berichtet die New York Times.

Anzeige
Anzeige

Jigsaw setzt für Assembler auf aktuell sieben Detektoren, die alle auf bestimmte Manipulationstechniken spezialisiert sind. Assembler kann so etwa Anomalien in Farbmustern, Mehrfachkopien in bestimmten Bildbereichen, mehrere beteiligte Kameramodelle und andere Hinweise auf Deepfakes erkennen.

Für das KI-Training von Assembler hat Jigsaw nach Schwachstellen in bereits bekannten Detektoren Ausschau gehalten und diese mit gezielt zusammengestellten Trainingsdaten verbessert. Als Beispiele nennt Jigsaw etwa stark verkleinerte Bilder, geänderte Bildformate oder Screenshots von manipulierten Bildern. Mit diesen Methoden würden häufig Manipulationen verschleiert, so das Unternehmen.

Aufklärung und Technik

Assembler erkenne zwar nicht jedes manipulierte Bild , sei aber bereits jetzt ein starkes Werkzeug im Kampf gegen Desinformation, sagt Luise Verdoliva, beteiligte Forscherin der Universität Neapel.

Zu diesem Kampf gehöre auch die Aufklärung über Fake-Bilder und Fake-News, meint Jigsaw und veröffentlicht eine interaktive Webseite, die über bekannte Desinformations-Kampagnen berichtet. In Zukunft will Jigsaw Assembler als Plattform weiter ausbauen und so gegen neue Fälschungsmethoden wappnen.

Titelbild: Jigsaw, Quelle: Jigsaw

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Empfehlung

Weiterlesen über Deepfakes:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!