A Fireworks AI aplicou o Jacobian Lens (J‑Lens) — uma sonda treinada que interpreta o estado oculto de um modelo — a dois modelos abertos, Kimi K3 e Qwen3.5‑9B. A sonda recuperou palavras do vocabulário relacionado à tarefa entre as 10 principais previsões do estado interno, antes de os modelos de fato escreverem essas palavras. No Kimi, todas as 20 listas de palavras testadas apresentaram pelo menos uma correspondência; no Qwen, 19 das 20 listas tiveram correspondências. O estudo também mostrou que esse padrão se mantém enquanto o modelo processa o prompt, e não apenas durante a geração.
Por que importa
Isso permite que pesquisadores espiem o raciocínio de um modelo antes de ele se expressar, abrindo novas formas de estudar e aprimorar o comportamento da IA.
