HeidiはFireworksのトレーニングAPIを使い、NVIDIAのパラメーター数5500億のオープンモデルNemotron 3 Ultraに教師あり微調整(SFT)を行った後、強化学習(RL)を適用した。NVIDIAのNVFP4精度に量子化してから、専用GPUにチェックポイントをデプロイした。臨床医による実環境での並列比較では、追加学習後のモデルが既存の本番モデルを54%の割合で上回った。ベースチェックポイントの約42%から向上した。
なぜ重要か
臨床医は自ら管理できるモデルを利用できるため、更新や、厳格なデータ保存場所の要件がある病院でのオンプレミス導入が可能になる。