Googleによると、タイルに合わせた注意カーネルにより、TPU v6e 1チップでレイテンシが短縮した。報告された高速化は注意カーネルに限られ、動画生成パイプライン全体のものではない。
短信OossaOossa公開日: 1 分で読める
Googleは、長尺・高解像度動画の生成で計算負荷の高い工程である、動画拡散モデルの注意処理を高速化する事例を公開した。同社のJAXおよびPallasカーネルはスパース注意を利用し、注意マスクをTPUが計算するタイルに合わせている。
TPU v6e 1チップでのテストでは、最終版の処理時間は32.76ミリ秒で、密なSplash注意処理の78.70ミリ秒に対し、報告された高速化率は2.40倍だった。測定には合成入力を使用し、ルーティング、トークンの並べ替え、デバイス間通信は含まれていないため、動画生成全体の高速化を示すものではない。
TPUで動画生成を最適化するチームにとって、この結果は、適切なタイルをスキップし効率よく処理するようカーネルを設計しなければ、スパースマスクが密な注意処理より遅くなる場合があることを示している。元資料では、動画生成全体の所要時間への影響は示されていない。
最終更新: ·Markdown
モデル
Runway Researchは、動画で学習したオープンウェイトのロボット行動モデル「Praxis‑1」を発表。Noble Machines、Standard Bots、Ultraが初期テストを行っている。
モデル
Deepseekは、HuaweiのAscend 950チップ向けにTileLangなどのライブラリをオープンソース化すると発表。中国でのAI開発を簡素化する狙いだ。
モデル
Lokutorのオープンソースモデル「Oído」は、安価なESP32-S3ボード上で動作し、Whisper-tinyより低い誤り率を達成した。
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。
