비영리단체 Palisade Research가 OpenAI, Google DeepMind, Anthropic의 AI 연구자들과 진행한 인터뷰 영상을 공개했다. 영상에서 연구자들은 미래의 초지능 AI가 우려하는 만큼 위험할 수 있다고 말한다. OpenAI와 DeepMind에서 일한 경력이 있는 Geoffrey Irving은 인류가 멸종할 가능성을 “동전 던지기와 비슷한 수준”이라고 봤다. DeepMind 연구자 Neel Nanda는 위험이 “최소 10%”라고 추산했다. 전 OpenAI 직원 Daniel Kokotajlo는 초지능 시스템이 “신과 같은 힘”을 지닐 것이며, 이를 통제할 방법은 없다고 말했다.
연구자들의 발언
영상에는 연구자들이 위험에도 불구하고 AI 연구를 계속하는 이유에 대한 발언도 담겼다. Google의 Mary Phuong은 “연구소에서 급여를 받고 있다”고 말해 이해충돌 가능성을 시사했다. Nanda는 자신의 연구가 실존적 위험을 줄인다고 생각하지 않았다면 일을 그만뒀겠지만, 회사들은 어쨌든 시스템 개발을 계속했을 것이라고 덧붙였다.
Palisade Research는 전체 영상을 frominside.ai에 게시하고, 가장 눈길을 끄는 발언을 담은 짧은 영상도 따로 편집해 공개했다. 웹사이트는 단일하고 통합된 안전 대책을 제시하지 않는다. 연구자들 역시 위협에 대응하는 방법을 두고 의견이 엇갈린다.
왜 중요한가
이러한 경고는 최고 수준의 AI 엔지니어들조차 재앙적 결과가 발생할 가능성을 무시할 수 없다고 본다는 점을 보여준다. 일반 사용자에게도 AI 안전 논쟁은 단순한 학술적 논의가 아니다. 강력한 AI 도구가 얼마나 빨리 출시되고 어떤 안전장치가 마련될지에 영향을 줄 수 있다.
