교황 레오 14세는 인간의 생명과 자유, 무력 사용에 관한 결정은 사람이 통제해야 한다며 각국 정부에 살상 자율무기 금지를 위한 조치에 나서라고 촉구했다. 그는 10월 30일 바티칸에서 열린 AI 관련 회의 참석자들에게 연설하며 기술의 “무장을 해제해야 한다”고 말하고, “기계는 도구이지 인격체가 아니다”라고 강조했다.
교황청 연설문에 따르면 이 회의는 교황청 생명학술원과 퓨처 오브 라이프 인스티튜트가 공동 주최했다. 레오 교황은 11월 제네바에서 만나는 각국이 살상 자율무기 금지를 위한 구체적인 조치를 취하라고 촉구했다. 새로운 합의나 정책을 발표한 것은 아니며, 각국 정부에 행동을 촉구한 것이다.
‘무장을 해제한다’는 것은 무슨 뜻인가?
레오 교황의 연설은 인간의 결정이 계속 통제권을 가져야 하는 영역에 초점을 맞췄다. 그는 생명과 자유, 무력에 영향을 미치는 결정에는 “실질적이고 충분한 정보를 바탕으로 한 책임 있는 인간의 감독”이 필요하다고 말했다. 누군가를 표적 명단에 올리거나 국경 통제 데이터베이스에 등록하는 사례를 들며, 사람들이 단순한 데이터 항목으로 취급될 수 있다고 경고했다.
그는 AI 시스템에 권리나 법적 인격을 부여하는 데도 반대했다. 연설에서 기계에는 인간의 경험이나 관계가 없다고 말하고, 기계를 법적 인격체로 취급하면 사람이 피해를 입었을 때 누구에게 책임을 물어야 하는지 불분명해질 수 있다고 경고했다. 연설의 요지는 AI 시스템에 이미 법적 지위가 부여됐다는 것이 아니라, 그런 제안이 책임 소재를 더 불분명하게 만들 수 있다는 것이다.
규정과 책임성 촉구
교황청 연설문은 다섯 가지 원칙을 제시한다. AI의 미래는 인간의 선택에 달려 있고, 기계는 도구이며, 일부 결정은 위임해서는 안 되고, AI는 공동선을 위해 사용해야 하며, 기관은 윤리 원칙을 실천에 옮겨야 한다는 것이다. 레오 교황은 공통 기준과 독립적인 감독, 결정에 이의를 제기하고 피해 구제를 요청할 수 있는 방안을 마련하라고 촉구했다.
바티칸 뉴스에 따르면 레오 교황은 회의 참석자들이 AI에 우려를 공유하고 있다고 말하며 더 많은 조치가 필요하다고 강조했다. 더 버지는 이번 연설이 5월 발표한 문서 《마그니피카 후마니타스》(Magnifica Humanitas)의 연장선이며, 어떤 기계도 인간의 생명을 앗을지 결정해서는 안 된다는 프란치스코 교황의 2024년 촉구와도 맥을 같이한다고 전했다. 레오 교황의 연설은 이 경고를 AI의 개발과 사용 전반에 대한 감독 요구로 확장한다.
왜 중요한가
국경 심사 등 중대한 결정의 영향을 받는 사람들에게 레오 교황이 제안한 원칙은 자유나 안전에 영향을 미치는 결정은 AI 시스템에만 맡기지 말고 책임 있는 사람이 감독해야 한다는 것이다. 이번 연설은 각국 정부와 기관에 규정을 마련하라고 촉구한 것이며, 새로운 규정이나 무기 금지가 채택됐다는 뜻은 아니다.
