Intel GPUで一度に2つの浮動小数点数を読み込むことで、行列乗算を高速化する。
短信Oossa1 分で読める
llama.cppプロジェクトは、Vulkanコードにおける32ビット浮動小数点数（F32）の読み込み方法を変更するパッチを公開した。Intel GPUでは、浮動小数点数を1つずつ読み込むより、2つまとめて読み込むほうが高速なため、新しい処理ではmul_mat_vecルーチンで2要素アラインの読み込みを使う。また、不足していたアラインメントチェックも追加した。B60テストボードでのベンチマークでは、特定の行列サイズで最大1.63 TFLOPSを記録し、前バージョンから大幅に向上した。
GPU演算の高速化により、Intel製ハードウェアでllama.cppを使うユーザーはLLMの推論をより速く実行できる。
モデル
OpenAIの新モデルGPT‑6.1 Solは、100万トークンあたり2～10ドルの料金を据え置きながら性能向上をうたい、AnthropicのClaudeやDeepSeekのモデルを下回る価格を打ち出した。
モデル
新モデルv4とv4 Turboの料金は、1,000文字あたりそれぞれ0.08ドル、0.04ドル。10月12日までは0.022ドル、0.011ドルに割引される。
モデル
Oracleの新しいFusion Clawランタイムにより、Fusionアプリは人員配置や会計など複数段階の業務を処理できる。AIが推論を担い、計算はモデルの外部で行う。
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。
| # | 出典 | 媒体 | 日付 | 要点 |
|---|---|---|---|---|
| 1 | ggml-org/llama.cpp b11266 ↗ | llama.cpp | 2026/09/29 | <details open> vulkan : Load F32 A matrix 2 at a time when its 2-aligned (#29254) It turns out Intel doesn't particularly like loading F32s |
| 2 | ggml-org/llama.cpp b11267 ↗ | llama.cpp | 2026/09/30 | <details open> vulkan: Tune GDN kernel, fix Intel performance (#29476) * vulkan: tune GDN shader * tune for Intel </details> **Website:** - |
2 件の出典
