fal AI और Fireworks ने अपने नए EAGLE-4 स्पेक्युलेटिव डिकोडिंग सिस्टम का विस्तृत तकनीकी विश्लेषण प्रकाशित किया है। ब्लॉग के साथ Prompt Enhancement SpecBench भी जारी किया गया है—यह एक सार्वजनिक बेंचमार्क है, जिसमें टेक्स्ट-टू-इमेज, इमेज-टू-इमेज, टेक्स्ट-टू-वीडियो और इमेज-टू-वीडियो कार्यों के 400 प्रॉम्प्ट शामिल हैं। NVIDIA B300 GPU पर किए गए परीक्षणों में EAGLE-4 Harness ने Fireworks बेंचमार्क पर बैच साइज़ 1 के साथ 660.6 टोकन प्रति सेकंड की गति हासिल की, जो अगले सर्वश्रेष्ठ तरीके से 1.63× तेज़ है। ट्री-आधारित वेरिफिकेशन से रचनात्मक प्रॉम्प्ट पर स्वीकृति लंबाई भी 26 % तक बढ़ी। इस काम का मकसद प्रॉम्प्ट-बढ़ाने के उन चरणों की लेटेंसी घटाना है, जो अब तेज़ इमेज और वीडियो मॉडल के कुल प्रोसेसिंग समय का बड़ा हिस्सा लेते हैं।
यह क्यों मायने रखता है
प्रॉम्प्ट का विस्तार तेज़ होने से डेवलपर इंटरैक्टिव प्रतिक्रिया समय बनाए रख सकते हैं, जबकि इमेज और वीडियो जनरेटर लगभग रीयल-टाइम होते जा रहे हैं।
