Show-1 ist ein generatives KI-Modell für Text-zu-Video, das aktuelle Alternativen durch einen hybriden Ansatz teilweise deutlich übertrifft.
Forschende der National University of Singapore haben mit Show-1 ein neues KI-System entwickelt, das aus Textbeschreibungen qualitativ hochwertige Videos erzeugen kann. Das Modell Show-1 hat nichts mit dem gleichnamigen Modell zu tun, das hinter der KI-generierten South-Park-Folge steht.
Show-1 setzt auf eine Kombination aus zwei verschiedenen Architekturen für Diffusionsmodelle - pixelbasiert und latentbasiert -, um das Beste aus beiden Ansätzen zu vereinen.
Show-1 vereint Text-Ausrichtung mit hoher Qualität
Pixelbasierte Diffusionsmodelle arbeiten direkt mit Pixelwerten und können die Generierung daher besser am Text-Prompt ausrichten, benötigen aber viel Rechenleistung. Latentbasierte Ansätze hingegen komprimieren die Eingaben vor der Diffusion in einen latenten Raum. Sie sind effizienter, haben aber Schwierigkeiten, feine Textdetails zu erhalten.
Das Show-1-Modell kombiniert diese beiden Modellarchitekturen: Pixelbasierte Diffusion wird verwendet, um Schlüsselbilder und interpolierte Bilder mit niedriger Auflösung zu erzeugen. Auf diese Weise werden die Gesamtbewegung und der Inhalt nahe am Text-Prompt erfasst. Anschließend wird die latentbasierte Diffusion verwendet, um das Video mit niedriger Auflösung auf eine hohe Auflösung zu skalieren. Das latente Modell fungiert dabei als "Experte" für das Hinzufügen realistischer Details.
Dieser hybride Ansatz kombiniert die Vorteile beider Modelle - die präzise Text-Video-Ausrichtung von Pixelmodellen und effiziente Hochskalierung von Latentmodellen.
Video: Zhang, Wu, Liu et al.
Laut dem Team erreicht Show-1 in Bezug auf Realismus und Text-zu-Video-Ausrichtung gleichwertige oder bessere Ergebnisse als State-of-the-Art Methoden wie Imagen Video oder Runways Gen-2. Dabei werden laut dem Team nur 20-25 % des sonst nötigen GPU-Speichers von rein pixelbasierten Modellen während der Video-Generierung benötigt, was Show-1 auch für Open-Source-Anwendungen interessant machen könnte.
Mehr Informationen, Beispiele und bald den Code und das Modell gibt es auf der Projektseite von Show-1.
