OpenAI는 Control Room이 연구 인프라 전반의 모델 작업을 추적하며, 안전이나 보안 문제가 발생하면 신속히 중단할 수 있다고 밝혔습니다.
짧은 소식작성: OossaOossa 게시일: 최종 업데이트: 1 분 읽기
OpenAI가 회사의 연구 인프라 전반에서 모델 작업을 추적하는 시스템인 Control Room을 공개했습니다. OpenAI는 안전이나 보안 문제가 발생하면 해당 작업을 신속히 중단할 수 있다고 밝혔습니다.
OpenAI는 Control Room에 누가 접근할 수 있는지, 중단 기능이 어떤 방식으로 작동하는지는 이번에 공개하지 않았습니다.
OpenAI 연구팀은 작업을 중단할 수 있는 기능을 통해 안전이나 보안 문제에 대응할 수 있을 것으로 보입니다. 다만 회사는 시스템이 실제로 어떤 방식으로 작동하는지는 설명하지 않았습니다.
안전
유나이티드항공은 보안 위험과 FAA 규정 위반 가능성을 이유로 외부 AI 에이전트의 예약 시스템 접근을 막는다.
안전
Fireworks AI 사이버 공격으로 결제 정보와 Notion AI 대화 기록이 탈취됐으며, Notion 사용자 약 1%가 영향을 받았다.
안전
AlphaProof Code는 4주 만에 컴파일된 Signal 코드의 주요 보안 속성을 확인했다. 다만 검증은 특정 보장에 한정되며 Signal의 모든 부분을 다루지는 않는다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
