Oossa

llama.cpp、macOSとLinux向けバイナリを追加したb11465を公開

オープンソースのLLM推論ライブラリに、Apple Silicon、Intel Mac、複数のUbuntu構成向けビルドが加わりました。

短信著者: Oossa公開日: 1 分で読める

ggml-orgチームが、llama.cppのバージョンb11465を公開しました。macOS Apple Silicon(arm64)、macOS Intel(x64)、iOSに加え、複数のUbuntu構成(CPU、Vulkan、CUDA 12.8)向けのビルド済みバイナリが含まれています。また、recurrent rollbackのテスト時にanchorを維持するためのテスト変更も追加されました。すべてのファイルはGitHubのリリースページからダウンロードできます。

なぜ重要か

開発者はコードを自分でコンパイルしなくても、より多くのハードウェアでLLMをローカル実行できるようになります。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。