Adobes VideoGigaGAN verwandelt Low-Res-Video in hochauflösende, detaillierte Clips
Adobe-Forscher stellen VideoGigaGAN vor, ein hochauflösendes generatives Videomodell, das Videos mit feinen Details und zeitlicher Konsistenz erzeugen kann.
Forscher von Adobe Research und der University of Maryland haben VideoGigaGAN entwickelt, ein neues generatives Modell für Video Super Resolution (VSR). Es ist in der Lage, Videos mit niedriger Auflösung auf eine höhere Auflösung zu skalieren und dabei sowohl feine Details als auch zeitliche Konsistenz zu erzeugen.
Bisherige Upscaling-Ansätze verwenden oft regressionsbasierte Netzwerke und neigen dazu, unscharfe Ergebnisse zu liefern. VideoGigaGAN basiert stattdessen auf dem leistungsfähigen generativen Bild-Upsampler GigaGAN.
Die Forscher identifizierten jedoch mehrere Probleme bei der Anwendung von GigaGAN für VSR-Aufgaben, darunter zeitliches Flackern und Alias-Artefakte. Um diese Probleme zu lösen, führten sie neue Komponenten in die GigaGAN-Architektur ein, die sowohl die zeitliche Konsistenz als auch die Qualität der Einzelbilder verbessern.
Video: Xu et al.
Tests zeigen, dass VideoGigaGAN ein besseres Gleichgewicht zwischen Bildkonsistenz und Detailgenauigkeit als frühere Methoden erreicht und Videos mit wesentlich mehr Details erzeugt als die derzeit besten Upscaler. VideoGigaGAN kann die Videoauflösung um den Faktor 8 erhöhen, indem es der Szene mehr und besser passende Details hinzufügt.
Allerdings bedeutet das auch, dass das Video bis zu einem gewissen Grad KI-generiert ist und die Realität nicht mehr vollständig wiedergibt. Das Modell hat auch einige Einschränkungen bei langen Videos, da sich die Fehler über mehrere Frames verteilen können, und bei kleinen Dingen wie Text, der in der niedrigen Auflösung verloren geht.
Insgesamt stellt VideoGigaGAN einen vielversprechenden neuen Ansatz für hochauflösendes Video dar, der durch den Einsatz generativer Techniken in der Lage ist, mehr Details als bisherige Methoden zu erzeugen, ohne dabei die zeitliche Konsistenz zu opfern. Es zeigt, dass die gute alte GAN-Technologie noch lange nicht ausgedient hat.
Auf der Website des VideoGigaGAN-Projekts finden sich zahlreiche Demos und Vergleiche mit anderen Methoden. Ob und wann Adobe dieses Modell in seine Produkte integrieren wird, geht aus dem Paper nicht hervor. Denkbar ist es, denn Adobe hat erst kürzlich angekündigt, seine Video-Suite um generative KI zu erweitern.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.