연구진은 오픈 웨이트 LLM 에이전트 7종을 평가한 결과, 모델 성능과 대화 길이가 늘수록 개인정보 유출도 증가하는 것을 확인했다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
Soumya Sharma가 이끄는 연구팀은 개인정보 유출을 시험하기 위해 두 에이전트 간 대화 4,410건으로 구성된 새로운 벤치마크 CIMEMORIES DIALOGUE를 공개했다. 연구팀은 Qwen‑3 및 Llama‑3.1 계열의 오픈 웨이트 모델 7종으로 벤치마크를 실행했다. 연구 결과, 과제를 더 잘 수행하는 모델일수록 개인정보도 더 많이 유출했으며, 특히 사고의 연쇄(chain-of-thought) 프롬프트를 사용할 때 그 경향이 두드러졌다. 대화가 1턴에서 6턴으로 길어지면 유출량은 최대 3배까지 늘었다.
더 성능이 뛰어난 모델을 도입하는 기업은 LLM 에이전트로 인한 개인정보 보호 위험이 커질 수 있다.
모델
기존 GLM-5.3 Flash를 전문 업무에 맞게 추가 학습했다. API는 공개됐고 모델 가중치는 2주 뒤 공개할 예정이다.
모델
새로운 Kandinsky S2V 1.0 Lite(2B)와 Pro(21B)는 음성과 사진 한 장으로 초당 25프레임의 말하는 인물 영상을 생성한다. 코드는 MIT 라이선스로 무료 공개됐다.
모델
Artificial Analysis의 음성 대 음성 지수에서 86.9점을 받아 OpenAI와 Google을 앞선 새 모델이 Voice Agent API에 적용됐다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
