Fireworks AI ने Kimi K3 और Qwen3.5‑9B में छिपे संकेत खोजे

J‑Lens प्रोब की मदद से शोधकर्ताओं ने दिखाया कि दो ओपन-सोर्स मॉडल शब्द लिखने से पहले ही अपनी छिपी अवस्थाओं में काम से जुड़े शब्दों के संकेत देते हैं।

संक्षिप्तलेखक: OossaOossa द्वारा प्रकाशित: 23 अक्टूबर 2026 को 6:39 am बजे UTCअंतिम अपडेट: 23 अक्टूबर 2026 को 8:06 am बजे UTC1 मिनट पढ़ना

2 स्रोत ↓

Fireworks AI ने Jacobian Lens (J‑Lens) को दो ओपन मॉडल—Kimi K3 और Qwen3.5‑9B—पर लागू किया। यह प्रशिक्षित प्रोब मॉडल की छिपी अवस्था को पढ़ता है। मॉडल के वे शब्द लिखने से पहले ही, प्रोब ने उनकी आंतरिक अवस्था की शीर्ष 10 भविष्यवाणियों में काम से जुड़ी शब्दावली खोज ली। Kimi में जाँची गईं सभी 20 शब्द-सूचियों में कम-से-कम एक मेल मिला; Qwen में 20 में से 19 सूचियों में मेल मिला। अध्ययन से यह भी पता चला कि यह पैटर्न मॉडल के प्रॉम्प्ट को संसाधित करते समय भी दिखता है, सिर्फ़ शब्द जनरेट करते समय नहीं।