# HelionカーネルをvLLMに統合、推論を高速化

> vLLMにHelionベースの線形バックエンドが加わり、行列乗算カーネルを自動調整。Hopper GPUでスループットが最大10%向上します。

Oossa · 2026-10-02 · https://oossa.com/ja/helion-kernel-adds-to-vllm-linear-backend-for-faster-inference

推論フレームワークのvLLMは、PyTorchネイティブのカーネルDSLであるHelionを線形バックエンドに統合しました。Helionでは、1つのGEMMカーネルで複数のアルゴリズムのバリエーションに対応でき、各形状に最適な設定を自動で選びます。NVIDIA Hopper GPUでは、新しいバックエンドがvLLMのデフォルトであるCUTLASSやDeepGEMMのカーネルを上回り、エンドツーエンドで安定した速度向上を実現。一部のモデルではスループットが10%を超えて向上します。

## 事実

- HelionバックエンドはHopper GPUでCUTLASSとDeepGEMMを上回り、特定のワークロードではスループットが10%超向上します。
- ハイブリッドな振り分けでは、トークン数が32以下の場合にHelionを使い、それを超える形状ではデフォルトのカーネルに切り替えます。

## なぜ重要か

Hopper GPUで大規模言語モデルを動かす開発者は、カスタムカーネルを書かなくても推論を高速化できます。

## 出典と参考資料

1. [Building a High-Performance and Portable vLLM Linear Backend with Helion](https://pytorch.org/blog/building-a-high-performance-and-portable-vllm-linear-backend-with-helion/) – PyTorch

最終更新: 2026-10-02