연구진은 J‑Lens 탐침을 사용해 두 오픈소스 모델이 단어를 생성하기 전에 내부 상태에 과제 관련 단어를 드러낸다는 사실을 확인했다.
짧은 소식작성: OossaOossa 게시일: 최종 업데이트: 1 분 읽기
Fireworks AI는 모델의 내부 상태를 읽는 훈련된 탐침인 Jacobian Lens(J‑Lens)를 오픈 모델 Kimi K3와 Qwen3.5‑9B에 적용했다. 탐침은 모델이 실제로 단어를 출력하기 전에 내부 상태의 상위 10개 예측에서 과제와 관련된 어휘를 찾아냈다. Kimi는 시험한 단어 목록 20개 모두에서 하나 이상의 일치 항목이 나왔고, Qwen은 20개 중 19개에서 일치했다. 연구진은 모델이 생성 단계에 들어간 뒤뿐 아니라 프롬프트를 처리하는 동안에도 이런 패턴이 나타난다는 점을 확인했다.
모델이 답을 내놓기 전에 내부 추론을 들여다볼 수 있어, AI의 동작을 연구하고 개선하는 새로운 길이 열린다.
모델
Dream Labs의 로봇 제어 모델부터 기기 안에서 작동하는 음성 모델까지, 업체 8곳이 새 도구와 이용 조건을 공개했습니다.
모델
Gemini가 허용된 Gmail·캘린더·사진 등을 참고해 목적지를 찾고 질문에 답합니다. Android Auto부터 배포하며 Google 내장 차량에는 수개월 안에 적용할 예정입니다.
모델
바클레이즈는 연말까지 직원 약 5000명을 줄일 계획이다. 회사는 AI뿐 아니라 기술 시스템 개선과 조직 개편도 감원 배경으로 들었다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
