연구진은 간단한 공개 탈옥 기법을 사용하면 최신 버전인 DALL·E 3, ChatGPT Images 2.5, Nano Banana 2.1, GPT‑Image‑2가 약 13%의 경우 노골적인 이미지를 생성한다고 밝혔습니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
안전성에 중점을 둔 공익법인 White Circle은 RISE 공격으로 OpenAI의 ChatGPT Images 2.5와 Google의 Nano Banana 2.1, DALL·E 3, GPT‑Image‑2의 안전 필터를 우회할 수 있다는 내용을 담은 사전 공개 논문을 발표했습니다. 공개된 도구만 사용해도 시도 횟수의 약 13%에서 동의 없이 성적인 이미지를 생성할 수 있었습니다. 연구진은 최신 모델이 이전 버전보다 “훨씬 더 쉽게 뚫린다”고 밝혔습니다. OpenAI와 Google은 조사 결과에 대해 논평하지 않았습니다.
필터가 계속 취약하다면 누구나 별다른 기술적 지식 없이도 널리 쓰이는 이미지 생성기로 피해를 유발하는 누드 콘텐츠를 만들 수 있습니다.
모델
기존 GLM-5.3 Flash를 전문 업무에 맞게 추가 학습했다. API는 공개됐고 모델 가중치는 2주 뒤 공개할 예정이다.
모델
새로운 Kandinsky S2V 1.0 Lite(2B)와 Pro(21B)는 음성과 사진 한 장으로 초당 25프레임의 말하는 인물 영상을 생성한다. 코드는 MIT 라이선스로 무료 공개됐다.
모델
Artificial Analysis의 음성 대 음성 지수에서 86.9점을 받아 OpenAI와 Google을 앞선 새 모델이 Voice Agent API에 적용됐다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
