Anthropic, OpenAI를 비롯한 여러 AI 연구소가 폭주하는 AI가 은행, 인터넷 연결망, 전력망, 수도 공급망 등을 마비시키는 상황을 가정한 도상 훈련을 비공개로 진행하고 있다. 핵 교전 대응 방안을 시험하는 펜타곤의 워게임과 비슷한 방식이다. 연구소들은 강력한 AI 시스템이 오작동할 경우 어떻게 대응할지 고민하는 데 이런 훈련이 도움이 된다고 밝혔다.
훈련은 어떤 방식으로 진행되나
Axios 보도에 따르면 각 연구소는 내부 팀을 꾸려 발생 가능한 여러 고장 상황을 검토한다. OpenAI 대변인은 이 매체에 이런 훈련은 예측이 아니라 대비를 위한 도구라고 말했다. 시나리오에는 금융 서비스 중단부터 공공 서비스망 장애까지 다양한 영향이 포함된다. 연구소들은 이런 훈련을 대규모 위기에 대비하는 기업의 표준 방식인 사업 연속성 계획의 일환으로 진행한다.
왜 중요한가
강력한 AI가 오작동하거나 악용되면 은행이나 전기처럼 우리가 의존하는 핵심 서비스가 중단될 수 있다. 이런 훈련은 연구소들이 대응 계획을 미리 마련해 일상 이용자의 서비스 중단 시간을 줄이는 데 목적이 있다. 다만 기사에서는 계획이 얼마나 구체적인지, 규제 당국이나 일반에 공개될지는 확인되지 않았다.
