Show-1 ist der bisher beste frei verfügbare KI-Video-Generator
Kurz & Knapp
- Forschende der National University of Singapore entwickeln Show-1, ein KI-System, das qualitativ hochwertige Videos aus Textbeschreibungen erstellt.
- Show-1 kombiniert zwei Architekturen von Diffusionsmodellen: pixelbasiert und latentbasiert, um Vorteile beider Ansätze - präzise Text-Video-Ausrichtung und effiziente Hochskalierung - zu nutzen.
- Show-1 benötigt nur 20-25 % des GPU-Speichers von rein pixelbasierten Modellen und erreicht gleichwertige oder bessere Ergebnisse als State-of-the-Art Methoden wie Imagen Video oder Runways Gen-2, so das Team.
Show-1 ist ein generatives KI-Modell für Text-zu-Video, das aktuelle Alternativen durch einen hybriden Ansatz teilweise deutlich übertrifft.
Forschende der National University of Singapore haben mit Show-1 ein neues KI-System entwickelt, das aus Textbeschreibungen qualitativ hochwertige Videos erzeugen kann. Das Modell Show-1 hat nichts mit dem gleichnamigen Modell zu tun, das hinter der KI-generierten South-Park-Folge steht.
Show-1 setzt auf eine Kombination aus zwei verschiedenen Architekturen für Diffusionsmodelle - pixelbasiert und latentbasiert -, um das Beste aus beiden Ansätzen zu vereinen.
Show-1 vereint Text-Ausrichtung mit hoher Qualität
Pixelbasierte Diffusionsmodelle arbeiten direkt mit Pixelwerten und können die Generierung daher besser am Text-Prompt ausrichten, benötigen aber viel Rechenleistung. Latentbasierte Ansätze hingegen komprimieren die Eingaben vor der Diffusion in einen latenten Raum. Sie sind effizienter, haben aber Schwierigkeiten, feine Textdetails zu erhalten.
Das Show-1-Modell kombiniert diese beiden Modellarchitekturen: Pixelbasierte Diffusion wird verwendet, um Schlüsselbilder und interpolierte Bilder mit niedriger Auflösung zu erzeugen. Auf diese Weise werden die Gesamtbewegung und der Inhalt nahe am Text-Prompt erfasst. Anschließend wird die latentbasierte Diffusion verwendet, um das Video mit niedriger Auflösung auf eine hohe Auflösung zu skalieren. Das latente Modell fungiert dabei als "Experte" für das Hinzufügen realistischer Details.
Dieser hybride Ansatz kombiniert die Vorteile beider Modelle - die präzise Text-Video-Ausrichtung von Pixelmodellen und effiziente Hochskalierung von Latentmodellen.
Video: Zhang, Wu, Liu et al.
Laut dem Team erreicht Show-1 in Bezug auf Realismus und Text-zu-Video-Ausrichtung gleichwertige oder bessere Ergebnisse als State-of-the-Art Methoden wie Imagen Video oder Runways Gen-2. Dabei werden laut dem Team nur 20-25 % des sonst nötigen GPU-Speichers von rein pixelbasierten Modellen während der Video-Generierung benötigt, was Show-1 auch für Open-Source-Anwendungen interessant machen könnte.
Mehr Informationen, Beispiele und bald den Code und das Modell gibt es auf der Projektseite von Show-1.
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.