オープンソースのLLM実行環境がHexagonバックエンドを更新し、Snapdragon搭載機での連結処理を高速化。
短信Oossa1 分で読める
ggml-org/llama.cppプロジェクトは2026年9月30日、先行リリース版（タグ：b11272）を公開した。言語モデルの推論でよく使われるconcat（連結）処理に、Hexagon向けの最適化が加わった。パケットのオーバーヘッドを減らし、より高速な除算処理を使うことで、データを移動させるホットループを高速化する。この更新は、Hexagon NPUを搭載したAndroidのSnapdragon端末を含む、幅広いプラットフォーム向けビルドの一環だ。
Snapdragon搭載スマートフォンでLLMを実行する際の速度が大幅に向上し、オンデバイスAIタスクの遅延が短くなる。
モデル
OpenAIの新モデルGPT‑6.1 Solは、100万トークンあたり2～10ドルの料金を据え置きながら性能向上をうたい、AnthropicのClaudeやDeepSeekのモデルを下回る価格を打ち出した。
モデル
新モデルv4とv4 Turboの料金は、1,000文字あたりそれぞれ0.08ドル、0.04ドル。10月12日までは0.022ドル、0.011ドルに割引される。
モデル
Oracleの新しいFusion Clawランタイムにより、Fusionアプリは人員配置や会計など複数段階の業務を処理できる。AIが推論を担い、計算はモデルの外部で行う。
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。
| # | 出典 | 媒体 | 日付 | 要点 |
|---|---|---|---|---|
| 1 | ggml-org/llama.cpp b11272 ↗ | llama.cpp | 2026/09/30 | <details open> hexagon: optimize concat op (#29673) * hex-concat: reduce pkts in gather/transpose hot loop gather directly into dst buffer, |
1 件の出典
