ABC、DGX Sparkで購入前のLLM検証サービス

ABCは11月13日、NVIDIA DGX Sparkを使ったLLMのベンチマークと動作検証を受託するサービスを始めた。料金は1回20万円からで、検証項目や構成に応じて個別に見積もる。

1回の依頼で最大2種類のモデルを、利用者が指定した条件で検証する。応答開始までの時間や1秒あたりの生成トークン数を測定し、結果を約5営業日でレポートする。

DGX Sparkは1台から最大8台まで対応し、リング接続や200GbE対応スイッチ経由の構成も試せる。