fal AI e Fireworks hanno pubblicato un’analisi tecnica approfondita del loro nuovo sistema di decodifica speculativa EAGLE-4. Il post presenta anche Prompt Enhancement SpecBench, un benchmark pubblico con 400 prompt per attività di generazione da testo a immagine, da immagine a immagine, da testo a video e da immagine a video. Nei test condotti su GPU NVIDIA B300, l’EAGLE-4 Harness ha raggiunto 660.6 token al secondo con una dimensione del batch pari a 1 nel benchmark Fireworks, con una velocità 1.63× superiore al metodo successivo. La verifica basata su alberi ha inoltre aumentato fino al 26 % la lunghezza delle sequenze accettate con prompt creativi. Il progetto punta a ridurre la latenza delle fasi di potenziamento dei prompt, che oggi rappresentano la maggior parte del tempo necessario per generare immagini e video con modelli veloci.
Perché conta
Un’espansione più rapida dei prompt consente agli sviluppatori di mantenere tempi di risposta interattivi, mentre i generatori di immagini e video si avvicinano alla generazione in tempo reale.
