Oossa

llama.cpp v b11531、バイナリ追加とAPI刷新

オープンソースのLLM実行環境が、macOS、iOS、Linux向けビルドを公開。チャットAPIも刷新した。

短信著者: Oossa公開日: 1 分で読める

ggml‑orgチームがllama.cppのリリースb11531を公開した。チャットAPIを刷新し、macOS(Apple SiliconおよびIntel)、iOS、CPU、Vulkan、CUDA 12.8に対応した複数のUbuntu向けに、ビルド済みバイナリを同梱している。ダウンロードリンクはGitHubのリリースページに掲載されている。ユーザーは自分でコンパイルせずに、より多くのプラットフォームでLLMをローカル実行できるようになった。

なぜ重要か

開発者はビルド作業を省き、UbuntuでのGPUアクセラレーションにも対応しながら、より多くのデバイスでLlamaモデルをローカル実行できる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。