Google, uzun ve yüksek çözünürlüklü kliplerin üretiminde maliyetli bir aşama olan video difüzyonundaki dikkat işlemlerini hızlandırmaya yönelik bir vaka çalışması yayımladı. JAX ve Pallas ile geliştirilen çekirdek, seyrek dikkat kullanıyor ve dikkat maskesini TPU’nun hesapladığı döşemelerle hizalıyor.
Tek bir TPU v6e yongasında yapılan testlerde son sürüm 32.76 milisaniyede tamamlandı; yoğun Splash dikkati ise 78.70 milisaniye sürdü. Google, bunun 2.40× hızlanma olduğunu bildirdi. Ölçümlerde sentetik girdiler kullanıldı; yönlendirme, belirteçlerin yeniden düzenlenmesi ve aygıtlar arası iletişim hesaba katılmadı. Bu nedenle sonuçlar, uçtan uca video üretiminde hızlanma olduğunu göstermiyor.
Neden önemli
TPU’larda video üretimini optimize eden ekipler açısından sonuç, çekirdek doğru döşemeleri atlayıp verimli biçimde işleyecek şekilde tasarlanmadıkça seyrek bir maskenin yoğun dikkatten daha yavaş olabileceğini gösteriyor. Kaynak, bunun video üretiminin toplam süresine etkisini ortaya koymuyor.
