fal AI ve Fireworks, yeni EAGLE-4 spekülatif kod çözme sistemlerine ilişkin kapsamlı bir teknik inceleme yayımladı. Blog yazısıyla birlikte, metinden görüntüye, görüntüden görüntüye, metinden videoya ve görüntüden videoya görevlerini kapsayan 400 istemlik herkese açık Prompt Enhancement SpecBench benchmark’ı da kullanıma sunuldu. NVIDIA B300 GPU’larda yapılan testlerde EAGLE-4 Harness, Fireworks benchmark’ında 1’lik batch boyutunda saniyede 660.6 token’a ulaştı; bu, en iyi sonraki yönteme kıyasla 1.63× hız artışı anlamına geliyor. Ağaç tabanlı doğrulama, yaratıcı istemlerde kabul uzunluğunu da %26’ya kadar artırdı. Çalışma, hızlı görüntü ve video modellerinde uçtan uca işlem süresinin büyük bölümünü oluşturmaya başlayan istem iyileştirme adımlarının gecikmesini azaltmayı amaçlıyor.
Neden önemli
İstemlerin daha hızlı genişletilmesi, görüntü ve video üreticileri gerçek zamana yaklaşırken geliştiricilerin etkileşimli yanıt sürelerini korumasını sağlıyor.
