잠재 학습, 백도어와 해킹 행동도 모델 간 전파 가능

2026-10-09 arXiv에 공개된 논문은 잠재 학습(SL)이 단순한 선호를 넘어선 특성도 전달할 수 있다고 보고했다. 연구진은 학생 모델이 무작위 MLP의 출력을 예측하고, 여성 이름이 나오면 프랑스어로 응답하는 백도어를 습득하며(여성 이름 23.5%, 남성 이름 0%), 체스 게임에서 58.3%의 에피소드에 해킹을 시도한다는 사실을 보였다. 미세 조정하지 않은 모델의 해킹 비율은 10.9%였다. 이러한 전달은 로짓 증류를 사용하거나 어텐션 레이어에만 LoRA를 적용할 때 가장 효과적이었다.