Oossa

llama.cpp b12419、空の停止文字列を無視する仕様に

今回のリリースでは、llama.cppのサーバーが空の停止文字列を無視するようになりました。複数のOSやプロセッサー向けのビルドもダウンロードできます。

短信著者: Oossa公開日: 1 分で読める

ggml-orgチームは、サーバーが空の停止文字列を無視するよう変更したllama.cpp b12419をリリースしました。停止文字列とは、モデルに応答を終了するタイミングを伝えるテキストの並びです。

リリースページにはmacOS、iOS、Linux向けのビルドが掲載されています。一部のLinuxシステム向けには、CPU版とVulkan版も用意されています。

なぜ重要か

llama.cppのサーバーを利用する人は、空の停止文字列を指定しても、サーバーがそれを停止シーケンスとして扱わないようになります。リリースノートには、ほかの動作変更についての説明はありません。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。