Oossa

llama.cpp b11784、Sycl iq3のクラッシュを修正し新ビルドを公開

オープンソースのLLM実行環境llama.cppがb11784に更新。Sycl iq3のクラッシュを修正し、macOS、iOS、Linux、CUDA向けの新しいビルドを公開した。

短信著者: Oossa公開日: 1 分で読める

ggml-orgチームはllama.cppのバージョンb11784をリリースした。Sycl iq3バックエンドで発生するクラッシュを修正している。Apple Silicon搭載Mac、Intel Mac、iOSのほか、VulkanやCUDA 12.8を含む各種Ubuntu環境向けのビルドが用意された。バイナリはGitHubのリリースページからダウンロードできる。

なぜ重要か

開発者はクラッシュを避けながら、より多くのハードウェアでllama.cppを実行できるようになり、ローカルでのLLM推論を利用しやすくなる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。