llama.cppプロジェクトはプレリリース版b12173を公開し、f16、i32、i16、bf16の各データ型でrepeat演算がOpenCLに対応しました。OpenCLは、対応するプロセッサやグラフィックスハードウェアで計算処理を実行するための仕組みです。
リリースページには、Linux、Windows、macOS、iOS、Androidなど、複数のプラットフォーム向けビルドが掲載されており、さまざまなハードウェアやアクセラレーターの選択肢があります。この変更によって、どのデバイスや処理が最も恩恵を受けるかは明記されていません。
なぜ重要か
OpenCLでllama.cppを使う開発者は、これら4種類のデータ型でrepeat演算を実行できるようになる可能性があります。ただし、実際にどのデバイスが対応するかはリリースノートに記載されていません。