قدّم باحثون Periscope، وهي طريقة تتيح لنموذج لغوي ثابت البحث في نصوص طويلة جدًا من دون إعادة تدريبه. تقسّم التقنية الوثيقة إلى مقاطع وترتّبها على شبكة مربعة، ثم تطلب من النموذج تقييم نوعين من مجموعات المقاطع: مجموعات محلية من مقاطع متتالية، ومجموعات متباعدة تأخذ عينات من النص بأكمله. وبدمج درجات هذه المجموعات، تنشئ Periscope «خريطة أدلة» تشير إلى المقطع الأرجح لاحتواء الإجابة. ولا تتطلب العملية كلها سوى نحو √(s·c) رمزًا لكل فحص، حيث s طول الوثيقة وc حجم المقطع، بدلًا من قراءة النص كله دفعة واحدة.
ما مدى كفاءتها؟
في معيار LongBench v2، حققت خريطة Periscope أعلى ترتيب عند قراءة 9 000 رمز فقط، معادلةً أفضل أداء للقراءة ضمن نوافذ النموذج نفسه، التي تراوحت أحجامها بين 32 000 و1 000 000 رمز. وفي InfiniteBench، حيث يبلغ وسيط طول الوثائق نحو 150 000 رمز، تفوقت الطريقة على أفضل قراءة ضمن نافذة بخمس نقاط. كما حققت أعلى نتيجة NDCG@10 بين ست طرق في مجموعات BRIGHT الخاصة بالوثائق الطويلة.
لماذا يهم ذلك المستخدمين؟
تتيح Periscope لنموذج يضم 27 billion معلمة التعامل مع سياقات تصل إلى 4.5 million رمز على وحدة GPU واحدة بذاكرة 80 GB. في السابق، كان المرور الأمامي الواحد على هذا القدر من النص يتطلب نحو 296 GB من ذاكرة GPU لمجرد تخزين الرموز مؤقتًا. وهذا يعني أن المستخدمين يستطيعون إجراء استعلامات على وثائق طويلة جدًا باستخدام أجهزة أقل كلفة، إذ لا تحتاج وحدة GPU إلا إلى تخزين النموذج، لا النص بأكمله.
لماذا يهم
للمطورين والباحثين، تخفّض Periscope كلفة الأجهزة اللازمة للعمل على وثائق طويلة جدًا، وتتيح تحليل سياقات أكبر باستخدام وحدات GPU عادية. أما المستخدمون، فقد يستفيدون من خدمات أسرع وأقل كلفة للبحث في نصوص ضخمة أو تلخيصها، مثل الأرشيفات القانونية أو الأدبيات العلمية. ولا يزال التحقق المستقل من النتائج خارج معايير الورقة البحثية منتظرًا.
