연구진은 GPT-6 Astra가 일반적인 학습 과정을 거치지 않고 신경망 내부의 수치 가중치를 살펴보고 바꿀 수 있다고 밝혔습니다. 테스트에서 Astra는 여러 소형 신경망이 무엇을 학습했는지 파악하고, 게임을 하는 신경망의 가중치를 작성했으며, 언어 모델의 일부를 수정해 수학 점수를 높였습니다.
연구진은 이 접근법을 ‘가중치 공간 프로그래밍(Weight-Space Programming)’이라고 부릅니다. 최적화 알고리즘으로 모델을 다시 학습시키는 대신 Astra에 가중치와 목표를 제공했으며, 일부 테스트에서는 프로그래밍 도구와 실행 결과에 대한 피드백도 활용했습니다. 연구진은 Astra가 학습 루프를 작성하지 못하도록 했다고 밝혔습니다. 이번 결과는 초기 실험으로, 이 방법이 여러 AI 모델에서 안정적으로 작동한다는 증거는 아닙니다.
Astra는 무엇을 바꿨나?
한 테스트에서 Astra는 소형 언어 모델 Qwen3.5-0.8B의 가중치를 받아 수학 능력을 높이라는 요청을 받았습니다. 코딩 환경에서 50차례 테스트 문제를 풀어본 Astra는 Qwen의 문서에서도 이미 경고한 반복적인 ‘생각 루프’를 찾아냈습니다. Astra는 모델 가중치의 0.016%를 수정했습니다. 별도의 수학 문제를 이용한 평가에서 MATH-500 점수는 7.9%에서 48.1%로 올랐습니다. 지시 이행 점수도 21%에서 62%로 상승했습니다.
다만 문제를 완전히 해결한 것은 아닙니다. 답변의 약 3분의 1은 여전히 최대 텍스트 길이에 도달했지만, 수정 전 93%였던 것에 비하면 줄었습니다. 이런 루프에 빠지는 일이 드문 또 다른 소형 모델 Gemma 3 270M에서는 Astra가 측정 가능한 개선을 이끌어내지 못했습니다. 연구진은 Astra가 Qwen에 없던 능력을 더했다기보다, 기존 능력을 발휘하지 못하게 막던 장애물을 제거했을 가능성이 있다고 봅니다.
Astra는 간단한 컴퓨터 게임 3종을 하는 신경망의 가중치도 작성했습니다. 연구진에 따르면 Breakout에서 Astra의 평균 점수는 517로, 학습된 기준 모델의 25점보다 높았습니다. 다른 두 게임에서는 가장 오래 학습한 모델보다 성적이 낮았습니다. 9×9 바둑에서는 Astra가 약 150만 개 매개변수로 구성된 신경망을 50차례에 걸쳐 조정했습니다. 각 차례에는 최대 128회의 연습 대국을 활용했고, 약 2,000만 판을 학습한 비슷한 규모의 모델을 이겼습니다.
가능성은 있지만 아직 초기 단계
연구진은 Astra가 소형 신경망의 원시 가중치만 보고도 어떤 게임·언어·이미지 형태를 다루도록 만들어졌는지 알아냈다고 밝혔습니다. 한 테스트에서는 텍스트를 처리할 때 모델이 무엇에 주의를 기울이는지도 볼 수 있게 한 뒤에야, 사용자의 말에 동조하도록 학습된 모델을 구별할 수 있었습니다.
The Decoder에 따르면 AI 연구자 Jürgen Schmidhuber는 1990년대 연구를 언급하며 이 접근법을 “구식”이라고 평가했습니다. 연구자 Omar Khattab은 당시 연구가 시대를 앞서갔다고 답하면서, 오늘날의 발전은 현대 언어 모델이 일상 언어와 신경망 가중치 사이를 변환할 수 있다는 점이라고 말했습니다. 연구진은 보안 감사와 특정 행동의 수정 등을 활용 가능성으로 제시했지만, 이 방법을 체계적으로 측정할 벤치마크가 아직 필요하다고 밝혔습니다.
왜 중요한가
소형 언어 모델을 관리하는 팀에는 비용이 많이 드는 전체 재학습을 반복하지 않고 특정 오류를 해결할 수 있는 방법이 될 가능성이 있습니다. 하지만 반복적인 답변 문제가 여전히 잦았고 Astra가 다른 모델을 개선하지 못한 사례도 있어, 실제로 어떤 상황에서 이 방법이 통할지는 아직 불분명합니다.
