Oossa

llama.cpp、LFM2のタイル分割に対応し、対応プラットフォームを拡大

オープンソースのLLMランタイムがGGUFファイルからタイル分割の設定を読み取れるようになり、CPU・GPU・OSの幅広い環境向けバイナリを提供します。

短信著者: Oossa公開日: 1 分で読める

ggml‑orgチームはllama.cppを更新し、GGUFのメタデータからLFM2‑VLのタイル分割設定を読み取れるようにしました。これにより、モデルファイルに保存されたmin_tiles、max_tiles、tile_size、max_pixels_toleranceの値に基づいて、画像をタイルに分割できます。また、macOS、Linux、Windows、Androidに加え、CUDA 13、Vulkan、OpenCLなどの各種ハードウェアアクセラレーターを含む幅広いプラットフォーム向けに、コンパイル済みバイナリが同梱されています。

なぜ重要か

開発者は、独自にタイル分割のコードを書かなくても、より多くのデバイスで画像処理LLMを実行できるようになります。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。