AI가 스스로의 개발을 앞당길 수 있다고 연구자들 경고

Geoffrey Hinton, Yoshua Bengio, OpenAI 연구 책임자 Jakub Pachocki를 포함한 AI 연구자 20여 명은 AI가 머지않아 더 뛰어난 AI 개발을 앞당기는 데 도움을 줄 수 있다고 경고했다. 이들은 새 논문에서 이런 상황이 ‘지능 폭발(intelligence explosion)’로 이어질 수 있다고 밝혔다. AI가 더 나은 AI를 만드는 일을 돕고, 그렇게 만들어진 AI가 다시 개발 속도를 높이는 급속한 순환이 일어난다는 것이다.

저자들은 시점과 결과가 불확실하다고 강조한다. 다만 AI 개발 기업에서는 이미 AI 시스템이 코드 대부분을 작성하고 있으며, 앞으로 수년 안에 AI가 연구·개발 과정 전체를 자동화할 수도 있다고 말한다.

연구자들이 우려하는 이유는?

AI가 새로운 시스템을 설계하고 시험하는 작업을 더 많이 맡으면, 지금은 수년이 걸리는 발전이 몇 달 만에 이뤄질 수 있다고 연구자들은 경고한다. 정부와 사회가 그 속도에 맞춰 대응하지 못할 수 있다는 게 이들의 우려다. 또 인간이 고도로 뛰어난 AI에 대한 통제력을 잃고, 기업과 정부, 국가 사이의 권력 구도가 바뀔 가능성도 제기한다.

이는 논문 저자들이 설명한 위험이지, 그런 결과가 반드시 일어날 것이라는 예측은 아니다. 기사에는 ‘수년 안에’라는 표현보다 구체적인 시점이나 AI 연구의 어떤 부분이 먼저 자동화될지에 대한 설명은 없다.

정책 입안자들에게 무엇을 요구하나?

연구자들은 AI 연구가 어떻게 자동화되고 있는지 정책 입안자들이 훨씬 더 잘 파악할 수 있도록 하라고 촉구한다. 이를 통해 의사결정자들은 기술이 얼마나 빠르게 바뀌고 있는지 이해할 수 있다. 다만 출처에는 논문이 제시한 구체적인 정책 방안이 자세히 나와 있지 않다.