Oossa

GPT-6 Astra يحرر أوزان نماذج الذكاء الاصطناعي بلا إعادة تدريب

يقول باحثون إن Astra تمكّن من تحديد الشبكات العصبية وإنشائها وتعديلها عبر التعامل مباشرة مع أوزانها. وحقق أحد نماذج اللغة الصغيرة نتائج أفضل في اختبارات الرياضيات بعد تعديل موجّه.

بقلم نشرته Oossa: 2 دقائق قراءة

Arnold Francisca · Unsplash

يقول باحثون إن GPT-6 Astra يستطيع فحص الأوزان الرقمية داخل الشبكات العصبية وتغييرها من دون اللجوء إلى عملية التدريب المعتادة. وفي اختبارات، حدّد ما تعلّمته عدة شبكات صغيرة، وكتب أوزانًا لشبكات تلعب ألعابًا، وعدّل جزءًا صغيرًا من نموذج لغوي لتحسين نتائجه في الرياضيات.

يسمّي الباحثون هذا النهج «البرمجة في فضاء الأوزان». فبدلًا من إعادة تدريب النموذج باستخدام خوارزمية تحسين، زُوّد Astra بالأوزان وهدف محدد، وأحيانًا بأدوات برمجة وملاحظات من جولات الاختبار. ويقول الباحثون إن Astra لم يُسمح له بكتابة حلقات تدريب. وما توصلوا إليه تجارب أولية، وليس دليلًا على أن النهج ينجح بموثوقية مع مختلف نماذج الذكاء الاصطناعي.

ما الذي عدّله Astra؟

في أحد الاختبارات، زُوّد Astra بأوزان Qwen3.5-0.8B، وهو نموذج لغوي صغير، وطُلب منه تحسين قدرته على الرياضيات. وباستخدام بيئة برمجة و50 جولة من المسائل الاختبارية، رصد Astra حلقات «تفكير» متكررة، سبق أن حذّرت منها وثائق Qwen. وعدّل 0.016% من أوزان النموذج. وفي مسائل رياضية منفصلة، ارتفعت نتيجته في MATH-500 من 7.9% إلى 48.1%. كما ارتفعت نتيجته في اتباع التعليمات من 21% إلى 62%.

لم يكن الإصلاح كاملًا: فما زال نحو ثلث الإجابات يبلغ الحد الأقصى لطول النص، مع أن النسبة انخفضت من 93% قبل التعديل. ولم يحقق Astra تحسنًا قابلًا للقياس في Gemma 3 270M، وهو نموذج صغير آخر نادرًا ما يقع في مثل هذه الحلقات. ويرجّح الباحثون أن Astra أزال عائقًا أمام مهارات كان Qwen يمتلكها أصلًا، بدلًا من إضافة قدرة لم تكن لديه.

كما أنشأ Astra أوزانًا لشبكات تلعب ثلاث ألعاب حاسوبية بسيطة. وفي لعبة Breakout، أفاد الباحثون بأن متوسط النتيجة بلغ 517، مقابل 25 لخط أساس مدرّب؛ لكن أداء Astra كان أدنى من أداء النسخ التي خضعت لأطول تدريب في لعبتين أخريين. وفي لعبة Go على لوحة 9-by-9، عدّل Astra شبكة تضم نحو 1.5-million-parameter على مدى 50 جولة، مع ما يصل إلى 128 مباراة تدريبية في الجولة، وتمكّن من هزيمة نموذج مماثل في الحجم دُرّب على نحو 20 million games.

نهج واعد لكنه لا يزال في بدايته

ويفيد الباحثون أيضًا بأن Astra حدّد اللعبة أو اللغة أو شكل الصورة المقصود، انطلاقًا من الأوزان الخام لشبكات صغيرة. وفي أحد الاختبارات، استطاع التمييز بين نموذج دُرّب على موافقة المستخدمين ونماذج أخرى، لكن فقط بعد السماح له أيضًا برؤية ما تركز عليه النماذج أثناء معالجة النص.

وذكر موقع The Decoder أن باحث الذكاء الاصطناعي Jürgen Schmidhuber وصف النهج بأنه «قديم»، مشيرًا إلى أبحاث تعود إلى تسعينيات القرن الماضي. ورد الباحث Omar Khattab بأن الأبحاث السابقة سبقت عصرها، وقال إن التطور الجديد يتمثل في قدرة نماذج اللغة الحديثة على الترجمة بين اللغة العادية وأوزان الشبكات. ويطرح الباحثون عمليات التدقيق الأمني وتغيير سلوكيات محددة ضمن الاستخدامات المحتملة، لكنهم يقولون إنهم ما زالوا بحاجة إلى معيار لقياس هذه الطريقة بصورة منهجية.

لماذا يهم

بالنسبة إلى الفرق التي تتولى صيانة نماذج لغوية صغيرة، تشير النتائج إلى إمكانية معالجة خلل محدد من دون تكرار عملية تدريب كاملة ومكلفة. لكن الإصلاح لم يمنع تكرار الإجابات الحلقية، كما لم ينجح Astra في تحسين نموذج آخر، لذا لم يتضح بعد متى يمكن تطبيق هذه الطريقة عمليًا.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.