Oossa

llama.cpp b11471、新トークン追加と各OS向けバイナリを提供

オープンソースライブラリllama.cppのバージョンb11471が公開。語彙に新たなトークンが加わり、macOS、iOS、Linux向けのビルド済みバイナリも利用できる。

短信著者: Oossa公開日: 1 分で読める

ggml-orgチームがllama.cppのバージョンb11471を公開した。モデルの語彙にplamo fimトークンが30090個追加された。macOSのApple Silicon版とIntel版、iOS版に加え、Linux向けの複数のビルド(CPU、Vulkan、CUDA 12.8)も提供される。利用者はGitHubのリリースページから適切なパッケージをダウンロードできる。

なぜ重要か

開発者はソースからビルドする手間をかけずに、より多くのデバイスでllama.cppをローカル実行できる。これにより、時間を節約し、テストも簡単になる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。