AlphaSense, Generative Search’ün artık Cerebras’ın yüksek hızlı çıkarım çiplerinde çalıştığını duyurdu. İş ortaklığı, ilk token’a ulaşma süresini 19,5 saniyeden 2,3 saniyeye indirerek %88 kısaltıyor ve sistemin ilk yanıtları 10-20 saniye gibi kısa bir sürede sunmasını sağlıyor. Daha hızlı model çağrıları, AlphaSense’in planlama, yönlendirme ve alıntı değerlendirme gibi çok adımlı araştırma iş akışını korurken etkileşimli bir deneyim sunmasına olanak tanıyor.
Neden önemli
Analistler, kanıta dayalı yanıtlara saatler yerine dakikalar içinde ulaşarak kazanç görüşmeleri ve piyasa araştırmalarında daha hızlı ilerleyebilir.
