Oct 20 2026 릴리스부터 서버가 세션을 특정 KV 캐시 슬롯에 고정할 수 있어, Anthropic /v1/messages 호출 때 프롬프트를 처음부터 다시 처리하지 않아도 됩니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
오픈소스 프로젝트 llama.cpp가 2026‑10‑20 버전 b11756을 출시했습니다. 이번 변경으로 서버는 Anthropic /v1/messages 요청에 포함된 id_slot 필드를 내부 OAI 형식의 본문에 전달합니다. 이에 따라 프록시가 세션을 특정 KV 캐시 슬롯에 계속 연결해 둘 수 있어, 모델이 매번 컨텍스트를 다시 채울 필요가 없습니다. id_slot이 포함된 요청이 올바른 슬롯에서 처리되는지 확인하는 새 테스트도 추가됐습니다.
llama.cpp를 Anthropic 호환 API와 함께 사용하는 개발자는 비용이 큰 캐시 재로딩을 피하고 채팅 세션의 응답 속도를 높일 수 있습니다.
모델
힌디어와 핀란드어를 포함해 음성 14종을 추가했다. 기존 생성형 음성 이용자는 코드 변경이나 요금 인상 없이 업그레이드를 이용할 수 있다.
모델
Uber는 직원 1,000명을 대상으로 한 시범 운영에 이어 전 세계 직원들이 ChatGPT Work를 사용하게 된다고 밝혔다. 도입 비용은 공개하지 않았다.
모델
새로운 Forest Typology 2020 지도는 10미터 단위로 전 세계 토지를 자연림, 조림지, 농업용 산림 등으로 분류하고, 2017~2025년 연도별 변화를 보여준다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
