Oossa

Fireworks AI نشانه‌های پنهان را در Kimi K3 و Qwen3.5‑9B یافت

پژوهشگران با استفاده از کاوشگر J‑Lens نشان دادند دو مدل متن‌باز، پیش از تولید واژه‌ها، آن‌ها را در حالت‌های پنهان خود آشکار می‌کنند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: آخرین به‌روزرسانی: 1 دقیقه مطالعه

Fireworks AI کاوشگر ژاکوبین لنز (J‑Lens) را ــ کاوشگری آموزش‌دیده که حالت پنهان مدل را می‌خواند ــ روی دو مدل متن‌باز Kimi K3 و Qwen3.5‑9B به کار گرفت. این کاوشگر پیش از آن‌که مدل‌ها واژه‌ها را واقعاً بنویسند، واژه‌های مرتبط با وظیفه را در میان ۱۰ پیش‌بینی برترِ حالت درونی آن‌ها بازیابی کرد. در Kimi، هر ۲۰ فهرست واژهٔ آزمایش‌شده دست‌کم یک تطبیق داشت؛ در Qwen نیز ۱۹ فهرست از ۲۰ فهرست تطبیق داشت. این پژوهش همچنین نشان داد که این الگو هنگام پردازش درخواست هم برقرار است، نه فقط هنگام تولید پاسخ.

چرا مهم است

این روش به پژوهشگران امکان می‌دهد پیش از آن‌که مدل حرف بزند، نگاهی به استدلال آن بیندازند و راه‌های تازه‌ای برای بررسی و بهبود رفتار هوش مصنوعی بگشایند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.