قدّم باحثون Dory1.0-4B، وهو نموذج لغوي يضم 4 مليارات مُعامل، ويمكن تشغيل كتلته المشتركة مرارًا أثناء الاستدلال. ويتيح ذلك استخدام نقطة تحقق واحدة بمستويات مختلفة من الحوسبة، بدلًا من الحاجة إلى نموذج أكبر مستقل لكل ميزانية حوسبة.
تفيد الورقة البحثية بأن تشغيل النموذج في دورتين أو أكثر تفوّق، في المتوسط عبر 12 اختبارًا معياريًا، على عدة نماذج أكبر. وعند تشغيله في أربع دورات، أنتج Dory عددًا من الرموز أقل بمقدار يتراوح بين 1.3 و2.5 مرة في الاختبارات المعيارية للمهام الوكيلة مقارنة بتشغيله في دورة واحدة. ويقول الباحثون إن حجم ذاكرة KV المؤقتة للنموذج يظل ثابتًا مهما اختلف عدد الدورات، وقد أتاحوا نقاط تحقق بأربعة تنسيقات.
لماذا يهم
يتيح Dory للمطورين الباحثين عن نموذج مفتوح زيادة الحوسبة أثناء الاستدلال من دون زيادة حجم ذاكرة KV المؤقتة، لكن مكاسب الاختبارات المعيارية التي أوردتها الورقة لا تثبت تحقق النتائج نفسها في كل التطبيقات.
