Instagram-Chef warnt: Skepsis muss im KI-Zeitalter zur neuen Normalität werden

In einer Slideshow teilt Instagram-Chef Adam Mosseri, wie er sich die KI-Zukunft bei Instagram vorstellt. Seine Worte sind der Widerhall dessen, was der Deepfake-Miterfinder Ian Goodfellow schon 2017 prognostizierte.

Adam Mosseri, Chef der Meta-Tochter Instagram, beschreibt einen fundamentalen Wandel, der sich in den kommenden Jahren vollziehen soll und die Art, wie Menschen Inhalten im Netz vertrauen, grundlegend verändern werde.

Das Kernproblem laut Mosseri: Authentizität wird unendlich reproduzierbar. Alles, was Creators bisher auszeichnete, nämlich echt zu sein, eine eigene Stimme zu haben und Verbindungen aufzubauen, sei nun mit den richtigen Tools für jeden zugänglich. Deepfakes würden besser, KI generiere Fotos und Videos, die von echten Aufnahmen nicht zu unterscheiden seien. Die Feeds füllten sich mit synthetischen Medien.

Zwar werde viel über "AI slop" gesprochen, doch es gebe bereits viel beeindruckenden KI-Content ohne verdrehte Gliedmaßen und fehlende Physik. Aber auch dieser qualitativ bessere KI-Content habe einen erkennbaren Look: Die Bilder wirkten irgendwie fabriziert, zu glatt, die Haut zu makellos. Das werde sich ändern, so der Instagram-Chef.

Unvollkommenheit wird zum Beweis für Echtheit

Mosseri sieht gerade in der Unvollkommenheit die Zukunft. Der klassische Instagram-Feed mit polierten Fotos, viel Make-up, Hautglättung und kontrastreichen Landschaftsaufnahmen sei bereits tot. Menschen hätten aufgehört, Momente im Feed zu teilen. Stattdessen lebten Stories und vor allem Direktnachrichten, in denen verschwommene Fotos und wackelige Videos ausgetauscht würden.

Die Kamerahersteller setzten laut Mosseri auf die falsche Ästhetik, indem sie jeden wie einen professionellen Fotografen der Vergangenheit aussehen lassen wollten. Mehr Megapixel, mehr Bildverarbeitung, Portrait-Modi mit künstlichem Hintergrund-Blur: Das sehe zwar gut aus, sei aber billig zu produzieren und langweilig zu konsumieren.

In einer Welt, in der alles perfektioniert werden könne, werde Unvollkommenheit zum Signal, schreibt Mosseri. Rohheit sei nicht mehr nur ästhetische Präferenz, sondern Beweis dafür, dass etwas echt sei. Kluge Creators würden in den nächsten Jahren bewusst auf unpolierte, unvorteilhafte Bilder von sich setzen. Doch auch diese würden künftig mit KI erzeugt (Anmerkung der Redaktion: Das werden sie bereits).

Die Messlatte für Creators verschiebe sich daher fundamental: von der Frage, ob jemand etwas erschaffen könne, zu der Frage, ob jemand etwas erschaffen könne, das nur er erschaffen könnte.

Der schmerzhafte Übergang zur Skepsis

Die größte Herausforderung sieht der Instagram-Chef in einem gesellschaftlichen Umdenken. Menschen müssten sich von der Annahme verabschieden, dass das, was sie sehen, auch real sei. Stattdessen müsse Skepsis beim Betrachten von Medien zur Grundhaltung werden, verbunden mit mehr Aufmerksamkeit darauf, wer etwas teile und warum.

Dieser Übergang werde für alle extrem unbequem, so Mosseri. Der Grund: Menschen seien genetisch darauf programmiert, ihren Augen zu glauben. Er verweist auf Malcolm Gladwells Buch "Talking to Strangers", wonach Menschen als Spezies dazu neigten, Aussagen zunächst für wahr zu halten, weil die evolutionären Vorteile effizienter Kommunikation und Kooperation die gelegentlichen Kosten des Betrugs überwögen.

Der Fokus müsse sich verschieben: nicht mehr darauf, was gesagt werde, sondern darauf, wer es sage. Früher seien Fotos und Videos verlässliche Aufnahmen realer Momente gewesen. Das sei nicht mehr der Fall, und die Anpassung werde Jahre dauern.

Mosseris Einschätzungen sind kein Neuland. Bereits 2017 warnte der KI-Forscher Ian Goodfellow, damals bei Google und Miterfinder der Generative Adversarial Networks (GANs), vor einer Zukunft massenhafter Multimedia-Fakes.

Goodfellow bezeichnete es als "historischen Glücksfall", dass sich die Menschheit in den vergangenen Jahrzehnten auf Videos verlassen konnte, um sicherzustellen, dass etwas tatsächlich passiert sei. Diese Phase neige sich dem Ende zu, prognostizierte er.

Menschen müssten skeptischer werden und dürften Bildern und Videos im Netz nicht mehr automatisch Glauben schenken. Was Mosseri nun beschreibt, ist im Wesentlichen die Bestätigung dieser acht Jahre alten Prognose.

Instagram will echte Medien mit digitalem Fingerabdruck versehen

Für die Plattformen sieht Mosseri eine schwierige Aufgabe. Social-Media-Dienste würden unter Druck geraten, KI-Content zu identifizieren und zu labeln. Die großen Plattformen würden dabei gute Arbeit leisten, aber mit der Zeit schlechter werden, da KI immer besser werde.

Praktischer sei es daher, echte Medien mit einem digitalen Fingerabdruck zu versehen, als gefälschte zu jagen. Kamerahersteller könnten Bilder kryptografisch bei der Aufnahme signieren und so eine Nachweiskette schaffen. Das Labeling als authentisch oder KI-generiert sei jedoch nur Teil der Lösung.

Mosseri skizziert einen Maßnahmenkatalog für Instagram: Die Plattform müsse die besten kreativen Tools bauen, KI-generierte Inhalte kennzeichnen und authentische Inhalte verifizieren. Zudem wolle man Glaubwürdigkeitssignale über die postenden Accounts anzeigen und das Ranking für Originalität verbessern.