言語学者とエンジニアのチームが、セネガルで約23 million人が話すウォロフ語を理解し、生成するオープンウェイトの言語モデル群を公開した。パラメーター数は0.6 billion〜14 billionで、オープンライセンスのもと提供されており、誰でもダウンロードしてローカル環境で実行できる。論文によると、8 billion版と14 billion版は、ウォロフ語のタスクで、はるかに大規模な商用システムと同等の性能を発揮しながら、ほかの言語にも対応する。
論文が報告した内容
著者らは、まずベースモデルをウォロフ語のテキストでファインチューニングし、次に指示チューニング(プロンプトに従う方法をモデルに学習させること)と選好アライメント(人間の評価に沿う出力になるよう最適化すること)を行う一連の手法を説明している。性能向上のため、モデルのマージも実施した。翻訳、質問応答、文章生成など、公開・内部利用の63タスクで実験し、8Bモデルと14Bモデルが特に高い競争力を示した。
入手方法
モデルはすでに社内のカスタマーケア試験運用でテストされており、コードと重みは論文に記載された公開URLで提供されている。ダウンロード費用については記載がない。重みがオープンウェイトであるため、ユーザーはAPI利用料を払わず、自前のハードウェアで実行できる。
なぜ重要か
セネガルのウォロフ語話者や企業にとって、これらのモデルは、高額なAPIサービスに代わる無料でローカル運用可能な選択肢となる。チャットボットや翻訳ツールの開発コストを抑え、データプライバシー上の懸念を避けやすくなる。一方、著者らの実験以外で主張が独立に検証されるのはこれからだ。