개인정보 보호업체 Redact가 사이트 코드에서 숨겨진 LLM 지침을 발견하자 Meta는 FAQ 페이지 약 80곳에서 해당 내용을 삭제했다.
짧은 소식작성: OossaOossa 게시일: 최종 업데이트: 1 분 읽기
Redact.dev는 Meta 자체 챗봇용 숨겨진 코드 블록이 포함된 WhatsApp 도움말 페이지 약 80곳을 발견했다. “HelpContentGalaxyLLMInclude”라는 이름이 붙은 이 블록에는 법률 조언을 하지 말고 출시 예정 기능을 언급하지 말라는 등의 LLM 규칙이 담겨 있었다. Wired가 이 내용을 보도한 뒤 Meta는 버그로 지침이 공개적으로 표시됐다며, 현재는 삭제했다고 밝혔다.
이런 숨겨진 프롬프트가 유출되면 사용자가 불완전하거나 제한된 AI 지원을 받을 수 있다. 따라서 버그를 수정하면 챗봇 답변의 신뢰성을 지키는 데 도움이 된다.
도구와 에이전트
Morgan Stanley, JPMorgan, Bank of America, Wells Fargo 등은 고객 계정 정보로 로그인하는 AI 도구를 차단하고 있다.
도구와 에이전트
이미 Gemini를 구동하는 Agent Compute Engine이 몇 달 안에 프리뷰로 공개될 예정이다. Google은 유휴 에이전트를 일시 중지해 용량을 아낄 수 있다고 밝혔다.
도구와 에이전트
Rerank 5는 32K 컨텍스트 윈도와 문단 단위 컨텍스트 기능을 제공한다. Pro의 공개 가격은 토큰 100만 개당 $0.05다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
