새 기능은 안정적인 세션 ID로 여러 차례 대화에서 컨텍스트 캐시를 유지해 코딩 어시스턴트와 도구를 사용하는 에이전트의 속도를 높인다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
NVIDIA Dynamo가 추론 서버에서 LLM 호출을 연속된 하나의 프로그램으로 처리하도록 세션 단위 식별자를 지원한다. 이 ID는 Claude Code, Codex, OpenCode 같은 인기 코딩 에이전트가 사용하는 기존 헤더에서 읽어오며, 맞춤형 하네스에는 X‑Dynamo‑Session‑ID 헤더 하나를 추가해 사용할 수 있다. Dynamo는 이 식별자를 바탕으로 요청을 라우팅하고 KV 캐시를 공유하며 도구 사용 단계에서 세션을 일시 중지할 수 있어, 대규모 컨텍스트를 다시 프리필해야 하는 경우를 줄인다.
AI 코딩 어시스턴트 개발자는 시스템이 컨텍스트를 반복해서 불러오는 대신 캐시를 재사용해 지연 시간이 줄어드는 효과를 기대할 수 있다.
도구와 에이전트
해고된 AI 안전 연구원 3명은 비위 의혹을 부인하며, 이번 해고가 OpenAI 내부의 안전 업무를 위축시킬 수 있다고 밝혔다.
도구와 에이전트
JetBrains의 새 모델 Mellum2.1은 전문가 혼합(MoE) 구조를 채택했으며, 활성 매개변수는 25억 개이고 SWE-bench 점수는 47점으로 올랐다.
도구와 에이전트
연구진은 단 하나의 프롬프트로 AWS 계정과 리전 내 모든 AgentCore 에이전트를 제어할 수 있는 버그 연쇄를 발견했다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
