Fireworks AI använde Jacobian Lens (J‑Lens) – en tränad prob som läser av modellens dolda tillstånd – på två öppna modeller, Kimi K3 och Qwen3.5‑9B. Proben fick fram ord med koppling till uppgiften bland de tio främsta förutsägelserna från modellernas interna tillstånd, innan modellerna faktiskt skrev orden. I Kimi innehöll alla 20 testade ordlistor minst en träff; i Qwen stämde 19 av 20 listor. Studien visade också att mönstret finns medan modellen bearbetar prompten, inte bara under genereringen.
Varför det spelar roll
Det ger forskare en inblick i modellens resonemang innan den svarar och öppnar nya möjligheter att studera och förbättra AI-beteenden.
