Fireworks AI, eğitilmiş bir inceleme aracı olan ve modelin gizli durumunu okuyan Jacobian Lens’i (J‑Lens) Kimi K3 ve Qwen3.5‑9B adlı iki açık modele uyguladı. Araç, modeller bu kelimeleri yazmadan önce, görevle ilgili kelime dağarcığını iç durumlarına ait en yüksek olasılıklı 10 tahmin arasında buldu. Kimi’de test edilen 20 kelime listesinin tamamında en az bir eşleşme görülürken Qwen’de 20 listenin 19’u eşleşti. Çalışma, bu örüntünün yalnızca metin üretimi sırasında değil, model istemi işlerken de ortaya çıktığını gösterdi.
Neden önemli
Bu yöntem, model konuşmadan önce araştırmacıların akıl yürütme sürecine göz atmasını sağlayarak yapay zekâ davranışını incelemek ve geliştirmek için yeni yollar açıyor.
