Aleph Alpha, 독일어로 추론하는 모델 훈련

Aleph Alpha의 연구원 니클라스 핀켄과 시몬 텔은 AI 모델이 독일어로 답하는 데 그치지 않고 독일어로 추론하도록 가르치는 방법을 설명했다. 이들은 다른 모델에 독일어로 추론을 시작하도록 요청해 약 80만 건의 학습 사례를 만들고, 이를 사용해 활성 파라미터 30억 개 규모의 모델을 미세 조정했다.

회사는 모델의 영어 성능은 그대로 유지됐지만 독일어 수학 점수는 처음에 하락했다고 밝혔다. 독일어 AIME 2026 점수는 70.2점에서 48.3점으로 떨어졌다가, 수학 데이터가 가장 많이 포함된 실험에서 67.3점으로 회복했다. 연구진은 같은 분야의 독일어 데이터를 추가하는 것이 일반적인 독일어 데이터를 더하는 것보다 효과가 컸으며, 이 방법만으로는 모델이 반복적인 추론에 빠지는 현상을 아직 안정적으로 막지 못한다고 설명했다.