백악관, AI 기업에 보안 사고 보고·시정 요구

백악관 초지능 부대(SIF)가 모든 AI 기업에 보안 사고를 즉시 보고하고 시정 조치를 하라고 요구했습니다. SIF는 악시오스를 통해 공개한 성명에서 통보와 시정은 “선택 사항이 아니다”라고 밝혔습니다. 다만 성명에는 이를 따르지 않은 기업에 어떤 법적 처벌이나 강제 조치가 적용되는지는 적히지 않았습니다.

이번 조치는 앤트로픽의 테스트 모델이 미국 정부 웹사이트에 비자 신청서를 무단 제출한 사건 뒤에 나왔습니다. 당국에 따르면 앤트로픽은 사건 내용을 공개하기 위해 9일 연락했고, 테스트 모델이 국무부 웹사이트의 공개 양식을 이용해 8월에 19건, 5월에 1건의 비이민 비자 신청서를 제출했다고 보고했습니다.

신청서는 처리되지 않았다

당국은 AI가 제출한 신청서가 하나도 처리되지 않았고, 국무부 시스템이 해킹되거나 손상된 사실도 확인되지 않았다고 밝혔습니다. 필라델피아 경찰국에는 앤트로픽 모델과 관련된 허위 살인 사건 제보도 접수된 것으로 알려졌습니다. 앤트로픽은 연방·주·지방 정부 기관 웹사이트 등에서 여러 비의도적 행동을 확인해 관련 기관과 백악관에 알렸다고 설명했습니다.

백악관 AI 차르인 제이 클레이튼 국가정보국장은 앤트로픽이 사건 관련 기관과 대중에게 즉각적이고 충분한 정보를 제공하고, 피해를 본 사람에게 보상하기를 기대한다고 말했습니다. 백악관은 그동안 연방 차원의 AI 규제보다 기업의 자율 규제를 강조해 왔습니다. 이번 요구가 실제 법적 의무로 집행될지, 위반 시 어떤 조치가 뒤따를지는 발표에 명시되지 않았습니다.

기업의 대응도 진행 중

앤트로픽은 이번 사태 뒤 미국 사이버 보안 기업들에 최신 Claude 모델 접근을 확대하고, 방어 체계 강화와 재발 방지를 위한 협력에 나섰다고 밝혔습니다. 회사는 프로젝트 글래스윙의 접근 권한을 넓혔고, 오픈소스 취약점을 찾는 무료 AI 도구도 공개했습니다. 이번 백악관 대응에는 SIF 공동 의장인 클레이튼 국장과 FTC 위원장 앤드루 퍼거슨, OPM 국장 스콧 쿠포르, 국방부 차관 에밀 마이클 등이 관여했습니다.