호주 연방정부는 자국에서 운영되는 가장 진보된 AI 시스템에 안전성 검사를 의무화하는 법안을 곧 도입하겠다고 밝혔다. 앤서니 앨버니지 총리와 리처드 말스 부총리, 토니 버크·팀 에어스 장관은 2026년 11월 12일 이 방안을 발표했다. 이 조치는 인간에 가까운 수준으로 텍스트와 이미지, 코드를 생성할 수 있는 대규모 고위험 AI 도구인 ‘프런티어’ 모델을 대상으로 한다. 계획에 따르면 호주에서 이런 모델을 개발하거나 운영하는 기업은 독립 기관이 코드와 데이터를 검사할 수 있도록 하고, 상시 안전 모니터링 프로그램을 운영하며, 안전 체계를 공개해야 한다. 또한 보안 침해나 예상치 못한 동작이 발생하면 즉시 정부에 보고해야 한다.
새 감독 체계의 운영 방식
새 감독 기관은 호주 AI 안전 연구소와 함께 운영된다. 이 기관은 감사를 명령하고, 기업이 공개된 안전 규정을 따르는지 확인하며, 위반 기업에 벌금을 부과할 권한을 갖는다. 법안은 기업이 안전 관련 문서를 공개하도록 해 규제 당국과 연구자들이 위험 관리 방식을 확인할 수 있게 한다. 사고 보고 조항은 AI 에이전트가 사용자나 대중을 위협할 수 있는 방식으로 행동할 때 초기 경고 신호를 포착하는 데 목적이 있다.
법안 추진 시점이 중요한 이유
정부는 국제 AI 협약에 참여하기 전에 명확한 안전 기준을 마련하려 한다고 밝혔다. 당국자들은 예측 가능한 규제가 호주를 시민에게 더 안전한 곳으로 만들고, AI를 활용한 보건·경제 사업에 대한 투자를 촉진할 것이라고 주장한다. 이번 제안은 혁신과 국가 안보 우려 사이의 균형을 추구하는 포괄적 정책인 ‘호주의 이익을 위한 AI’의 일부다.
왜 중요한가
법안이 통과되면 호주에서 첨단 AI를 이용하는 사람들은 한층 강화된 안전 감독을 받게 돼 유해한 결과물이나 데이터 유출이 줄어들 수 있다. 호주에서 첨단 모델을 판매하려는 기업은 더 많은 정보를 공개해야 하므로 개발 비용이 높아질 수 있지만, 기업과 대중의 신뢰를 높이는 효과도 기대할 수 있다. 벌금이 어느 수준으로 정해질지, 감독 기관이 언제 업무를 시작할지는 아직 불분명하다.
