Algorithmen können nicht nur vorhandene Informationen kategorisieren, sondern auch neuen Inhalt kreieren. Mit KI-Systemen könnte die breite Masse in Zukunft ohne großen Aufwand Fake-Bilder und Fake-Videos erstellen.
Künstliche-Intelligenz-Forscher des Chip-Produzenten Nvidia zeigen in einem neuen Forschungsprojekt, wie sie anhand von realen Fotoaufnahmen berühmter Personen neue Fake-Fotos erschaffen können, die täuschend echt wirken.
Das sich selbst trainierende KI-System nutzt zwei kooperierende Netzwerke: Das erste kreiert die Bilder, das zweite prüft deren Überzeugungskraft. Durch diese Feedback-Schleife verbessert sich das System selbst bis zu einem Punkt, bei dem im Vergleich zu bisherigen Systemen hochauflösende, täuschend echt wirkende Fake-Fotos entstehen. Als Grundlage für die Kreation nutzt das KI-System eine Datenbank mit authentischen Aufnahmen von Stars.
Schaut man sich die Bilder im Detail an, erkennt man noch Fehler in der Darstellung, die aber laut den Wissenschaftlern in naher Zukunft beseitigt werden könnten. Überzeugender Fotorealismus sei "in Reichweite", heißt es in der begleitenden Publikation.
Fake-News für jedermann?
Nun ist es keine Neuigkeit, dass Bilder oder Videos manipuliert werden können. Gute Grafiker und Videokünstler zaubern mit Photoshop und Co. Szenen und Menschen, die nie stattgefunden oder existiert haben. Allerdings benötigen sie dafür eine Ausbildung, Spezialsoftware, Zeit und Talent, die Produktion ist daher vergleichsweise teuer.
Eben das ist der Unterschied zum Algorithmus, der dafür sorgen könnte, dass Bild- und Videomanipulation auf hohem Niveau für jedermann möglich wird. Im schlechtesten Fall erhöht das den Anteil an Fake-News, die durch Bilder und Videos an Überzeugungskraft gewinnen, speziell in den sozialen Medien.
Im folgenden Video sieht man die KI bei der Bildentwicklung. In einem nächsten Schritt könnten mit der gleichen Methode auch Fake-Objekte und komplette Fake-Umgebungen produziert werden. Weitere Informationen zum Projekt stehen hier.
