Oossa

llama.cpp, LFM2 타일링 지원 및 플랫폼 빌드 확대

오픈소스 LLM 런타임이 GGUF 파일에서 타일링 매개변수를 읽고, 더 다양한 CPU·GPU·운영체제용 바이너리를 제공합니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml‑org 팀이 llama.cpp를 업데이트해 GGUF 메타데이터에서 LFM2‑VL 타일링 설정을 읽을 수 있게 했습니다. 이에 따라 모델 파일에 저장된 min_tiles, max_tiles, tile_size, max_pixels_tolerance 값에 맞춰 이미지를 타일로 나눕니다. 이번 릴리스에는 macOS, Linux, Windows, Android와 CUDA 13, Vulkan, OpenCL 등 다양한 하드웨어 가속기를 지원하는 플랫폼용 사전 컴파일 바이너리도 포함됐습니다.

왜 중요한가

개발자는 별도의 타일링 코드를 작성하지 않고도 더 다양한 기기에서 이미지 처리 LLM을 실행할 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.