Oossa

SPW-Nav erzeugt 2K-360°-Videos aus Sprachbefehlen

Forschende stellen SPW-Nav vor: Das Modell erzeugt in Echtzeit aus einem einzelnen Bild ein einminütiges 2K-Panorama-Video und folgt dabei gesprochenen Navigationsanweisungen.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Das Team um Ziqi Cai hat SPW-Nav vorgestellt, ein streamendes Panorama-Weltmodell, das Sprachbefehle in Live-360-Grad-Videos umsetzt. Als Ausgangspunkt dient ein einziges Panorama. Das System kann Anweisungen wie „nach links abbiegen“ oder „vorwärtsgehen“ befolgen und dabei eine hohe Videoqualität beibehalten. Durch sphärische Rotation und eine an die Kamerapose angepasste Konditionierung soll verhindert werden, dass die Darstellung in langen Streams zunehmend vom Kurs abkommt. Außerdem veröffentlichte das Team SPW-NavSet, einen Datensatz mit Panoramavideos, überprüften Kamerapfaden und Anweisungen.

Warum es wichtig ist

VR-Apps könnten damit spontan virtuelle Rundgänge aus einem einzelnen Foto erstellen und wären weniger auf vorab aufgezeichnetes Material angewiesen.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.