Oossa

llama.cpp b11849、HexagonのSGN演算に対応

Qualcomm Hexagon向けの符号演算が追加され、半精度版にも対応。複数のプラットフォーム向けビルドも公開された。

短信著者: Oossa公開日: 1 分で読める

ggml-orgチームはllama.cpp b11849をリリースし、QualcommのプロセッサアーキテクチャであるHexagonでSGN演算をサポートした。リリースノートによると、今回の変更では半精度に対応したほか、符号ビットを使う最適化も導入された。

macOS、iOS、Ubuntu向けのビルドも提供されており、x64、arm64、s390x向けのCPUビルドも含まれる。どのデバイスや処理で実際に速度や性能が向上するかは、リリースノートに記載されていない。

なぜ重要か

Hexagon搭載ハードウェアでllama.cppを使う開発者は、新たにSGN演算を利用できる。ただし、モデル性能への影響はリリースノートで数値化されていない。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。