Oossa

llama.cppがNemotron‑3(.5)‑Embedに対応

オープンソースのllama.cpp（v b11778）がNemotron‑3(.5)‑Embedを実行可能に。macOS、iOS、Linux向けに加え、Vulkan版とCUDA版のバイナリも公開された。

短信著者： Oossa公開日: 1 分で読める

1 件の出典 ↓

ggml‑orgはllama.cppのバージョンb11778をリリースした。新しいテキスト埋め込みモデルNemotron‑3(.5)‑Embedに対応したほか、macOS Apple Silicon、macOS Intel、iOS、およびVulkan版やCUDA‑12.8 GPU版を含む複数のUbuntu向けに、コンパイル済みバイナリを提供する。ファイルはGitHubのリリースページから直接ダウンロードできる。

なぜ重要か

開発者はクラウドサービスを使わず、幅広いデバイス上でNemotron‑3(.5)‑Embedをローカル実行できる。

出典と参考資料

1 件の出典
  1. llama.cpp出典の公開日: 原典を読む
発行者: OLY Europe LTD誤りを報告

Markdown

この記事は役に立ちましたか？
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。