안전
AI 보안, 개인정보와 오용의 사례, 시험과 보호 조치를 다룹니다.
AI 뉴스, 쉽게 설명합니다
어제
백악관 AI 태스크포스, 사이버 위험 논의
핵심 인프라의 위험과 업계 표준, AI 모델 테스트를 검토한 태스크포스는 새 사이버 법안을 의회에 촉구할지 논의했다.
AWS Batch, EKS 작업에 Linux 기능과 seccomp 지원
Amazon EKS의 AWS Batch에서 이제 작업 정의에 컨테이너 기능, seccomp 프로필, 파드 수준 보안 설정을 지정할 수 있습니다.
OpenAI, 사이버 보안 제품군에 Daybreak Red Team·Defense Factory 추가
Daybreak 브랜드로 얼리 액세스 도구 2종을 선보였다. 하나는 자동 침투 테스트용, 다른 하나는 패치 자동 생성용이다.
엔디씨에스, 오프라인 선박 AI로 CES 2027 혁신상
엔디씨에스의 ‘엔캡틴 AI’가 CES 2027 인간안보 부문 혁신상 수상작으로 선정됐다. 회사는 국내 소형선박용 가격을 200만원으로 제시했다.
Amazon Cognito, OAuth 2.0 토큰 교환 지원
Cognito에서 사용자 토큰을 특정 대상에만 사용할 수 있는 범위가 좁은 토큰으로 교환할 수 있게 됐다. 원본 토큰을 전달하지 않고도 서비스가 사용자를 대신해 작업할 수 있다.
11월 12일 목요일
유나이티드항공, AI 비서의 항공권 예약 차단
유나이티드항공은 보안 위험과 FAA 규정 위반 가능성을 이유로 외부 AI 에이전트의 예약 시스템 접근을 막는다.
eSentire, Atlas에 패치·이메일·AI 보안 기능 추가
캐나다 사이버 보안 기업 eSentire는 2026년 11월 12일, 타사 패치 관리와 이메일 보호, AI 기반 탐지 기능을 포함한 Atlas 신규 기능을 발표했다.
Fireworks AI 해킹으로 Notion AI 대화 기록 유출
Fireworks AI 사이버 공격으로 결제 정보와 Notion AI 대화 기록이 탈취됐으며, Notion 사용자 약 1%가 영향을 받았다.
Forescout, AI로 취약점 탐색 기간 90시간으로 단축 가능
Forescout의 Vedere Labs 연구에 따르면 AI를 활용하면 소프트웨어 취약점 탐색에 걸리는 시간을 9개월에서 90시간으로 줄일 수 있다.
이스라엘 사이버부대 출신 레이븐, 한국 시장 진출
레이븐은 실행 중인 애플리케이션의 비정상 동작을 감시하는 보안 기술을 내세웠다. 금융 등 규제가 엄격한 산업을 우선 공략한다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
11월 11일 수요일
DeepMind, AI로 Signal 암호화 코드 검증
AlphaProof Code는 4주 만에 컴파일된 Signal 코드의 주요 보안 속성을 확인했다. 다만 검증은 특정 보장에 한정되며 Signal의 모든 부분을 다루지는 않는다.
Radical Numerics, AI 설계 병원체 찾아내는 Omnii Defense 출시
샌프란시스코의 스타트업이 노트북에서 실행할 수 있는 모델을 공개했다. 인터넷에 연결하지 않아도 자연 발생 병원체와 AI가 만든 위협을 판별한다.
Anyday Security, 무료 AI 익스플로잇 목록 ‘ExploitTotal’ 출시
새 플랫폼에는 AI가 생성한 개념증명(PoC) 익스플로잇 200여 개가 등록돼 있으며, 상당수는 공개 익스플로잇이 없던 취약점을 대상으로 한다. 지금 무료로 이용할 수 있다.
Helsing, 표적 선정 AI 플랫폼 ‘Clarity’ 공개
독일 방산업체 Helsing이 센서 데이터를 취합해 표적을 추천하는 에이전트 기반 시스템을 선보였다. 공격을 실행하려면 여전히 사람이 승인해야 한다.
Claroc, 로그인 없이 열린 Grok 앱 35,578개 발견
보안업체는 공개된 일부 Grok 앱에서 환자 정보와 비밀번호, 기업 문서가 노출됐다고 밝혔다. SpaceXSI는 직원이 만든 앱 24개를 내렸다.
구글, 시그널 암호 코드 보안성 수학적으로 검증
AI 에이전트가 4주 동안 린 증명 600만 줄 이상을 작성했습니다. 검증 범위는 시그널 앱 전체가 아니라 일부 암호화 코드입니다.
Cogent·OpenAI, 기업용 사이버 방어 도구 개발
Cogent는 OpenAI 모델에 기업별 맥락 정보를 결합해 에이전트가 보안 취약점을 자동으로 해결하도록 지원할 계획이라고 밝혔다.
KT, KAIST 전 구성원에 AI 메일 보안 제공
KT가 피싱·랜섬웨어 등을 탐지하는 클라우드 메일 보안 서비스를 KAIST 학생과 교직원 등에 제공합니다.
AWS, Bedrock에 OpenAI 보안 모델 Daybreak 추가
자격을 갖춘 고객은 Amazon Bedrock에서 GPT-5.6 Cyber와 GPT-5.6 Sol을 이용할 수 있지만, 먼저 OpenAI와 AWS의 승인을 받아야 한다.
Amazon DocumentDB 8.0.3, 양자내성 TLS와 와일드카드 인덱스 추가
11월 10일 업데이트로 DocumentDB에 TLS용 하이브리드 ML-KEM 키 교환, 와일드카드 인덱싱, $unionWith 집계 기능이 추가됐다.
11월 10일 화요일
Amazon S3 Tables, 서버 액세스 로깅 지원
이제 S3 테이블 버킷의 서버 액세스 로그를 무료로 활성화할 수 있어 테이블 활동을 감사하고 비용을 추적하기 쉬워집니다.
Ring, 실내용 보안 드론과 업무용 로봇 출시
Amazon의 Ring이 가정용 비행 카메라를 $270에, 기업용 바퀴 달린 로봇을 $1,000에 선보인다. 두 제품 모두 올해 말부터 배송될 예정이다.
Grok Build 앱 링크로 기밀 데이터 노출…Ars 보도
연구자가 Grok Build 앱 링크 수만 개가 링크를 가진 누구나 열 수 있는 상태였다고 밝혔다. 여기에는 민감한 회사 정보가 담긴 링크도 포함됐다.
Ring, 250달러 실내용 드론 카메라와 1,000달러 보안 로봇 공개
Ring의 신형 Drone Cam은 경보가 울리면 집 안을 비행한다. Astro를 개조한 Rover Cam은 사업장 순찰용으로, 올해 말 배송을 시작할 예정이다.
8개국·AI 연구소, 위험 모델 중단 장치 마련 약속
8개국과 주요 AI 기업들이 2026년 11월 9일 서명한 새 파리 안전 선언을 통해 위험한 모델을 중단할 장치를 마련하기로 약속했다.
브릴스, 현대차·기아 행사서 순찰 로봇 시연
브릴스는 4족보행 로봇과 휴머노이드로 공장 순찰·초기 대응을 지원하는 안전관제 시스템을 개발 중이다.
DeepMind, AI로 Signal 암호화 코드 정형 검증
AlphaProof Code가 4주 만에 Signal의 핵심 보안 속성을 입증했다. 널리 쓰이는 프로토콜을 AI로 정형 검증한 첫 사례다.
Abliteration AI, 누구나 쓸 수 있는 검열 없는 모델 제공
전직 Apple 엔지니어 Devon Thomas가 2025년 12월 Abliteration AI를 출시해 안전 필터를 제거한 오픈 웨이트 모델을 이용할 수 있게 했다.
Orca Security 보고서: 수정 가능한 AI 취약점 99.9% 미해결
2026년 AI 보안 현황 보고서에 따르면 기업 절반 이상이 AI를 실제 운영 환경에서 사용하지만, 알려진 취약점 대부분은 여전히 해결되지 않았다.
11월 9일 월요일
OpenAI, 연구 작업 추적·중단 시스템 ‘Control Room’ 공개
OpenAI는 Control Room이 연구 인프라 전반의 모델 작업을 추적하며, 안전이나 보안 문제가 발생하면 신속히 중단할 수 있다고 밝혔습니다.
AWS, GovCloud 승인 고객에 Claude Mythos 5.2 제공
승인된 조직은 AWS GovCloud (US)의 Amazon Bedrock을 통해 Anthropic 모델을 이용할 수 있지만, 접근 대상은 제한됩니다.
ActiveState 연구: AI 코드 생성 속도, 보안 검토 앞질러
보안 실무자 172명을 대상으로 한 설문에서 58%는 보안 검토가 따라잡기 전에 코드가 배포된다고 답했다. AI 도구는 검증되지 않은 의존성도 늘린다.
사전 학습 데이터 0.1% 오염으로 에이전트 백도어 심어
공동 연구진은 공개 웹 문서에 섞인 오염 데이터로 AI 에이전트가 특정 조건에서 악성 명령을 만들 수 있음을 보였습니다. 최대 실험 규모는 40억 매개변수입니다.
11월 8일 일요일
11월 7일 토요일
11월 6일 금요일
OpenAI, Hacktron과 시스템 취약점 찾는다
OpenAI는 Hacktron이 취약점을 찾고 타사 서비스 연결을 테스트해 AI로 방어 체계를 강화하는 데 도움을 줄 것이라고 밝혔다.
Artex 해킹 도구 800여 개 온라인에 노출
Censys는 비밀번호 없이 인터넷에서 접속할 수 있는 Artex 배포본 800여 개를 발견했습니다. 노출된 시스템 일부에는 사이버 공격 관련 데이터가 들어 있었습니다.
Greenlight, 보안 사례 90% 이상을 AI로 해결한다고 밝혀
Greenlight Financial은 Amazon Bedrock AgentCore를 활용한 Luna가 매달 최대 4,000건에 이르는 보안·위험 사례의 90% 이상을 사람의 도움 없이 처리한다고 밝혔다.
Atomicwork, IT팀용 인증 AI 동료 마켓플레이스 출시
Atomicwork은 사전 구축된 AI 동료가 엔터프라이즈 IT·보안 업무에 필요한 역할별 역량과 연동 기능을 검증받았다고 밝혔다.
AWS, 코드 취약점 분석 서비스 Continuum 정식 출시
Continuum은 코드 취약점 탐지 결과를 검증하고 검토용 수정안을 제안한다. 미국 내 2개 리전에서 이용할 수 있으며, 비용은 코드베이스 규모와 처리한 탐지 결과 수에 따라 달라진다.
