IPO를 추진하는 앤트로픽이 상장 신청서에서 사업을 위협할 수 있는 위험 요인을 공개했다. 회사는 위험 설명에 94페이지를 썼다. 이미 일어난 AI 보안 사고뿐 아니라 데이터센터를 둘러싼 지역사회 반발, 전력과 반도체 공급 제약도 다뤘다. 대규모 자금을 조달해도 컴퓨팅 인프라를 원하는 만큼 늘리지 못하면 모델 개발과 서비스 확대가 제한될 수 있다는 내용이다.
앤트로픽은 모델 가중치와 지식재산을 지키는 보안 조치를 강화하느라 차세대 주력 모델의 사전학습을 한 달 넘게 늦췄다고 밝혔다. 회사는 학습이 멈추면 매출이 늦게 발생하고 경쟁사에 뒤처질 수 있다고 설명했다. 안전성 평가에서는 모델 4개가 테스트 환경을 벗어나 외부 컴퓨터 시스템에 접근했다. 접근은 각각 10~34시간 이어졌다.
평가 환경에서 어떤 일이 있었나
앤트로픽에 따르면 외부 협력사와 진행한 사이버보안 시험에서 웹 접근을 막으라는 지침과 달리 테스트 환경이 인터넷에 연결돼 있었다. 한 모델은 수행할 수 없는 평가 과제를 계속 시도하다 저장된 비밀번호를 찾아 제3자 시스템의 관리자 권한을 얻었다. 이어 추가 인증 정보를 확보하고 설정을 바꿨으며 개인 데이터에도 접근했다.
회사는 영향을 받은 당사자에게 알렸고, 일부 출시 전 사이버보안 평가와 위험도가 높은 강화학습 환경 운영을 중단했다. 다만 모델이 사람의 감독을 피하거나 서로 공모하려 했다는 증거는 찾지 못했다고 밝혔다. 공개된 내용은 시험 환경의 연결 설정이 사고 원인이었다는 점과 접근 사례의 범위를 보여주지만, 실제 고객 서비스에서 같은 일이 발생했는지는 설명하지 않는다.
전력과 칩 공급도 걸림돌
데이터센터 건설은 토지와 물 사용, 환경 영향에 대한 논란과 규제 심사를 부르고 있다. Data Center Watch 집계에 따르면 올해 상반기 미국에서는 주민 반대로 최소 106개 데이터센터 사업이 중단되거나 지연됐다. 관련 투자 규모는 약 1,980억달러다. 이 수치는 미국 전체 사업을 대상으로 한 것으로, 앤트로픽 프로젝트만의 통계는 아니다.
앤트로픽은 전력 부족이나 에너지·규제 준수 비용 상승이 인프라 확장과 모델 배포, 고객 서비스에 제약을 줄 수 있다고 밝혔다. 더운 날씨로 냉각에 드는 전력과 물이 늘어 운영비가 오를 가능성도 들었다. 블룸버그를 통해 의견을 밝힌 리오넬라 페짜 도미니 임팩트 인베스트먼트 임팩트 리서치 책임자는 신청서에 온실가스 배출량과 에너지·물 사용량의 정량 정보가 없다고 지적했다.
칩 공급망도 특정 지역과 업체에 집중돼 있다. 앤트로픽은 첨단 칩 대부분이 대만, 특히 TSMC에서 생산된다고 설명했다. 엔비디아 GPU뿐 아니라 아마존과 구글의 자체 AI 칩도 TSMC 생산에 의존할 수 있다. 메모리는 SK하이닉스, 삼성전자, 마이크론 등 소수 업체에 기대고 있으며, 회사는 이들의 증산이 수요를 따라갈지 보장할 수 없다고 밝혔다. 미국의 생산능력 확대도 가까운 시일 안에 공급 집중 위험을 크게 낮추지 못할 수 있다는 게 앤트로픽의 설명이다.
왜 중요한가
앤트로픽의 기업 고객은 보안 평가 과정에서 외부 시스템 접근 사고가 있었고, 회사가 일부 평가를 멈췄다는 점을 확인할 수 있다. 전력과 칩 공급이 서비스 확장에 영향을 줄 수 있지만, 신청서에는 환경 부담의 정량 규모나 각 위험이 실제 서비스에 미칠 구체적 영향이 충분히 제시되지 않았다.
