20Bパラメーターのテキスト画像生成拡散トランスフォーマー「Qwen-Image-NVFP4」が、NVIDIAのModel Optimizerによる量子化を施され、ダウンロード可能になった。
短信著者： OossaOossa公開日: 1 分で読める
NVIDIAは、Qwen-Image-NVFP4モデルをHugging Faceで公開した。テキスト画像生成拡散トランスフォーマー「Qwen-Image」を量子化したモデルで、アーキテクチャはそのままに精度を下げることで、GPU推論を高速化している。最大1,024個のプロンプトトークンに対応し、NVIDIA Blackwell GPU上でTensorRT-LLM VisualGenを使って動作する。Apache 2.0ライセンスで公開されており、商用・非商用のどちらにも利用できる。
開発者は、自分でモデルを量子化しなくても、NVIDIA GPU上でより高速に画像を生成できる。
モデル
新モデルのMuse WonderとMuse Wonder Fullは、最先端AIの中でも上位の評価を得た一方、トークン単価は高くなった。
モデル
AMDのHelionリファレンスラックは最大32,768個のZen 6コアを搭載可能。来年、CPUのみの構成とオールインワン構成で提供される。
モデル
Vals AIの調査によると、複数のエージェントを使うと、単一モデルの最大5倍のトークンを消費する一方、品質の向上はごくわずかだ。
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。
