Fireworks AI aplicó la Jacobian Lens (J‑Lens) —una sonda entrenada que lee el estado oculto de un modelo— a dos modelos abiertos, Kimi K3 y Qwen3.5‑9B. La sonda recuperó palabras relacionadas con la tarea entre las 10 predicciones principales del estado interno, antes de que los modelos las escribieran. En Kimi, las 20 listas de palabras analizadas tuvieron al menos una coincidencia; en Qwen, coincidieron 19 de las 20 listas. El estudio también mostró que este patrón se mantiene mientras el modelo procesa la instrucción, no solo durante la generación.
Por qué importa
Permite a los investigadores asomarse al razonamiento de un modelo antes de que responda, y abre nuevas vías para estudiar y mejorar el comportamiento de la IA.
