Oossa

Fireworks AI ترصد إشارات خفية في Kimi K3 وQwen3.5‑9B

باستخدام أداة J‑Lens، أظهر باحثون أن نموذجين مفتوحي المصدر يكشفان كلمات مرتبطة بالمهمة في حالاتهما الداخلية قبل توليدها.

خبر موجزبقلم نشرته Oossa: آخر تحديث: 1 دقائق قراءة

طبّقت Fireworks AI أداة Jacobian Lens (J‑Lens) — وهي أداة مدرّبة تقرأ الحالة الداخلية للنموذج — على نموذجين مفتوحي المصدر، Kimi K3 وQwen3.5‑9B. واستعادت الأداة مفردات مرتبطة بالمهمة ضمن أعلى 10 تنبؤات للحالة الداخلية، قبل أن يكتب النموذجان تلك الكلمات فعليًا. في Kimi، تضمنت قوائم الكلمات العشرين التي اختُبرت تطابقًا واحدًا على الأقل؛ أما في Qwen، فتطابقت 19 قائمة من أصل 20. وأظهرت الدراسة أيضًا أن هذا النمط يظهر أثناء معالجة النموذج للموجّه، وليس أثناء التوليد فحسب.

لماذا يهم

يتيح ذلك للباحثين التعمق في طريقة تفكير النموذج قبل أن يتحدث، ويفتح آفاقًا جديدة لدراسة سلوك الذكاء الاصطناعي وتحسينه.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.