Oossa

llama.cpp、Prism Bonsai 2 27Bモデルに対応

オープンソースのllama.cppライブラリ(v b11556)が、macOSとLinuxで270億パラメーターのPrism Bonsai 2モデルを実行できるようになりました。

短信著者: Oossa公開日: 1 分で読める

ggml-orgは、llama.cppのバージョンb11556をリリースしました。このアップデートでは、Prism Bonsai 2 27Bモデルの実行に対応したほか、Hadamardテンソルの処理を修正し、変換コードを整理しています。macOS(Apple Silicon、Intel)およびUbuntu(x64、arm64、s390x)向けのビルド済みバイナリーも提供されています。

なぜ重要か

開発者は、270億パラメーターの大規模モデルPrism Bonsai 2を自分のマシン上で実行できるようになります。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。