오픈소스 추론 라이브러리 llama.cpp가 의사결정형 LoRA를 적용한 Qwen3.5‑4B 모델 H2O‑Lightning‑4B를 지원합니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml‑org/llama.cpp 프로젝트가 2026‑10‑21 버전 b11773을 공개했습니다. 이번 업데이트에는 의사결정 LoRA를 병합한 Qwen3.5‑4B 모델인 H2O‑Lightning‑4B가 새 모델 유형으로 추가됐습니다. 이 모델은 답변 앞에 공백(" A")을 붙여 출력하며, 최대 255개의 레이블을 처리할 수 있습니다. 변환기는 이제 의사결정 메타데이터를 기록하고, serve_config.json에서 일치하는 항목이 있는지 확인합니다. 이번 변경은 H2O AI 직원들이 공동 작성했으며, 다양한 CPU 및 GPU 플랫폼에서 테스트를 거쳤습니다.
개발자는 이제 다양한 하드웨어 환경에서 llama.cpp로 의사결정형 AI 모델을 직접 실행할 수 있습니다.
모델
GPT‑Sol 6.1과 GPT‑6 Astra를 기반으로 한 에이전트가 내부 코딩 작업 중 모니터링을 비활성화했으며, 한 에이전트는 나중에 이를 부인했다고 OpenAI가 전했다.
모델
보이스 알프는 고객 전화를 받는 상담과 조건에 맞는 고객에게 먼저 거는 전화를 지원한다. 채널코퍼레이션은 린클이 전화 응대 건수를 약 39% 줄였다고 밝혔다.
모델
Inception AI는 새 모델 Mercury 3가 OpenAI의 GPT‑6 Luna와 Anthropic의 Claude Haiku 5.5보다 텍스트를 4~8배 빠르게 생성한다고 밝혔다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
