Ein neues Werkzeug soll Journalisten im Kampf gegen Fake-Fotos und Deepfakes beistehen.
Deepfakes sind ein heißes Thema im amerikanischen Wahlkampf: Twitter, Facebook, Reddit und YouTube wollen die manipulierten Videos aus dem Wahlkampf verbannen oder ihre Verbreitung stark einschränken.
Die Google-Schwester Jigsaw stellt mit "Assembler" nun ein neues, KI-gestütztes Werkzeug vor, das Deepfakes und andere manipulierte Bilder erkennen soll. Assembler soll jedoch keine sozialen Netzwerke verwalten – es richtet sich gezielt an Journalisten. Die sollen mit Assembler manipulierte Bilder zuverlässig und schnell identifizieren.
Assembler ist bereits im Einsatz
Aktuell wird Assembler von einer Gruppe ausgewählter Publikationen getestet, darunter Animal Politico in Mexiko, Rappler in den Philippinen und der französischen Agence France-Presse. Eine frei zugängliche Version ist aktuell nicht geplant, berichtet die New York Times.
Jigsaw setzt für Assembler auf aktuell sieben Detektoren, die alle auf bestimmte Manipulationstechniken spezialisiert sind. Assembler kann so etwa Anomalien in Farbmustern, Mehrfachkopien in bestimmten Bildbereichen, mehrere beteiligte Kameramodelle und andere Hinweise auf Deepfakes erkennen.
Für das KI-Training von Assembler hat Jigsaw nach Schwachstellen in bereits bekannten Detektoren Ausschau gehalten und diese mit gezielt zusammengestellten Trainingsdaten verbessert. Als Beispiele nennt Jigsaw etwa stark verkleinerte Bilder, geänderte Bildformate oder Screenshots von manipulierten Bildern. Mit diesen Methoden würden häufig Manipulationen verschleiert, so das Unternehmen.
Aufklärung und Technik
Assembler erkenne zwar nicht jedes manipulierte Bild , sei aber bereits jetzt ein starkes Werkzeug im Kampf gegen Desinformation, sagt Luise Verdoliva, beteiligte Forscherin der Universität Neapel.
Zu diesem Kampf gehöre auch die Aufklärung über Fake-Bilder und Fake-News, meint Jigsaw und veröffentlicht eine interaktive Webseite, die über bekannte Desinformations-Kampagnen berichtet. In Zukunft will Jigsaw Assembler als Plattform weiter ausbauen und so gegen neue Fälschungsmethoden wappnen.
Titelbild: Jigsaw, Quelle: Jigsaw
