Fireworks AI ha applicato la Jacobian Lens (J‑Lens), una sonda addestrata per leggere lo stato nascosto di un modello, a due modelli open: Kimi K3 e Qwen3.5‑9B. La sonda ha recuperato, tra le prime 10 previsioni dello stato interno, parole legate al compito prima che i modelli le scrivessero. In Kimi, tutte le 20 liste di parole testate contenevano almeno una corrispondenza; in Qwen, la corrispondenza è stata rilevata in 19 liste su 20. Lo studio ha inoltre mostrato che il fenomeno si verifica mentre il modello elabora il prompt, non solo durante la generazione.
Perché conta
Permette ai ricercatori di sbirciare nel ragionamento di un modello prima che si esprima, aprendo nuove possibilità per studiare e migliorare il comportamento dell’IA.
