IBM이 Granite 4.1 기반의 프리뷰 모델 2종(granite-4.1-3b-LLMON-preview, granite-4.1-8b-LLMON-preview)을 발표했습니다. 이 모델들은 특수 토큰으로 지시문, 데이터, 요구사항에 태그를 붙이는 마크업 언어 LLMON을 읽고 생성하도록 학습됐습니다. IBM은 이 새로운 형식이 표준 Granite 4.1 Instruct 모델과 전반적으로 비슷한 성능을 유지하면서 간접 프롬프트 인젝션의 성공률을 거의 0으로 낮춘다고 밝혔습니다. 개발자가 직접 사용해 볼 수 있도록 코드, GitHub 저장소, 변환 도구도 공개했습니다.
왜 중요한가
개발자는 명령과 사용자 데이터를 분리하는 더 안전한 방법을 시험해 애플리케이션에서 숨겨진 프롬프트 공격의 위험을 줄일 수 있습니다.
