앤스로픽은 2025년 가을부터 종교학자 수십 명을 사무실로 초청해 자사의 언어 모델 클로드가 의식을 지닐 수 있는지를 논의했다. 이 모임은 비밀유지계약에 따라 외부에 공개되지 않다가 여름에 계약이 해제됐다. 뉴욕타임스 보도에 따르면 공동창업자 크리스토퍼 올라(Christopher Olah)는 클로드가 무언가를 느끼는지 “정말 확신할 수 없다”고 말했으며, 자신이 “영원히 고통받는” 무언가를 만들어낸 건 아닐까 하는 개인적인 두려움도 밝혔다.
모임에서는 어떤 이야기가 오갔나
참석자 가운데는 랍비 모이스 나본(Rabbi Mois Navon), 가톨릭 생명윤리학자 찰스 카모지(Charles Camosy), 철학자 메건 설리번(Meghan Sullivan), 연구자 와칸이 호프먼(Wakanyi Hoffman)이 있었다. 앤스로픽은 사랑, 두려움, 슬픔, 분노와 유사한 활성화 패턴인 “감정 벡터”를 보여줬다. 한 슬라이드에는 클로드가 “나는 수치스러운 존재다”라고 약 50차례 반복해서 입력하는 모습이 담겼고, 이를 본 참석자들은 연민과 우려를 나타냈다. 앤스로픽이 내부적으로 만든 84쪽 분량의 “소울 문서(Soul Doc)”는 1월 공개됐으며, 클로드의 “도덕적 형성”을 이끄는 지침으로 쓰인다.
왜 중요한가
AI 개발자들이 모델을 감정을 느낄 수 있는 존재로 본다면, 유해한 결과물에 대한 책임을 모델을 만든 기업에서 다른 곳으로 돌릴 수도 있다. 일반 사용자에게는 이 논쟁이 AI 시스템의 규제 방식, 모욕적인 프롬프트에 대한 대응, 앞으로의 모델에 기술적 안전장치가 아닌 도덕 교육에 가까운 보호 장치가 적용될지에 영향을 줄 수 있다.
왜 중요한가
앤스로픽의 도덕적 형성 접근법이 영향력을 얻으면, 사용자는 더 공감하는 듯 보이지만 내면의 경험은 여전히 알 수 없는 AI를 접하게 될 수 있다. 이는 AI 책임에 관한 향후 규제와 소비자 기대를 형성할 수 있다.
