Inhalt
summary Zusammenfassung

Show-1 ist ein generatives KI-Modell für Text-zu-Video, das aktuelle Alternativen durch einen hybriden Ansatz teilweise deutlich übertrifft.

Anzeige

Forschende der National University of Singapore haben mit Show-1 ein neues KI-System entwickelt, das aus Textbeschreibungen qualitativ hochwertige Videos erzeugen kann. Das Modell Show-1 hat nichts mit dem gleichnamigen Modell zu tun, das hinter der KI-generierten South-Park-Folge steht.

Show-1 setzt auf eine Kombination aus zwei verschiedenen Architekturen für Diffusionsmodelle - pixelbasiert und latentbasiert -, um das Beste aus beiden Ansätzen zu vereinen.

Show-1 vereint Text-Ausrichtung mit hoher Qualität

Pixelbasierte Diffusionsmodelle arbeiten direkt mit Pixelwerten und können die Generierung daher besser am Text-Prompt ausrichten, benötigen aber viel Rechenleistung. Latentbasierte Ansätze hingegen komprimieren die Eingaben vor der Diffusion in einen latenten Raum. Sie sind effizienter, haben aber Schwierigkeiten, feine Textdetails zu erhalten.

Anzeige
Anzeige

Das Show-1-Modell kombiniert diese beiden Modellarchitekturen: Pixelbasierte Diffusion wird verwendet, um Schlüsselbilder und interpolierte Bilder mit niedriger Auflösung zu erzeugen. Auf diese Weise werden die Gesamtbewegung und der Inhalt nahe am Text-Prompt erfasst. Anschließend wird die latentbasierte Diffusion verwendet, um das Video mit niedriger Auflösung auf eine hohe Auflösung zu skalieren. Das latente Modell fungiert dabei als "Experte" für das Hinzufügen realistischer Details.

Dieser hybride Ansatz kombiniert die Vorteile beider Modelle - die präzise Text-Video-Ausrichtung von Pixelmodellen und effiziente Hochskalierung von Latentmodellen.

Video: Zhang, Wu, Liu et al.

Laut dem Team erreicht Show-1 in Bezug auf Realismus und Text-zu-Video-Ausrichtung gleichwertige oder bessere Ergebnisse als State-of-the-Art Methoden wie Imagen Video oder Runways Gen-2. Dabei werden laut dem Team nur 20-25 % des sonst nötigen GPU-Speichers von rein pixelbasierten Modellen während der Video-Generierung benötigt, was Show-1 auch für Open-Source-Anwendungen interessant machen könnte.

Mehr Informationen, Beispiele und bald den Code und das Modell gibt es auf der Projektseite von Show-1.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Empfehlung
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Forschende der National University of Singapore entwickeln Show-1, ein KI-System, das qualitativ hochwertige Videos aus Textbeschreibungen erstellt.
  • Show-1 kombiniert zwei Architekturen von Diffusionsmodellen: pixelbasiert und latentbasiert, um Vorteile beider Ansätze - präzise Text-Video-Ausrichtung und effiziente Hochskalierung - zu nutzen.
  • Show-1 benötigt nur 20-25 % des GPU-Speichers von rein pixelbasierten Modellen und erreicht gleichwertige oder bessere Ergebnisse als State-of-the-Art Methoden wie Imagen Video oder Runways Gen-2, so das Team.
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!