Liquid AIは、Hugging Faceに新モデル「d1-3B」を追加しました。このモデルは、テキスト、JSON、画像のいずれかで表された状態をもとに、名前と型を指定した質問に1回のフォワードパスで回答します。トークンの生成は必要ありません。llama.cppで実行でき、/v1/systemone HTTPエンドポイントから問い合わせられます。使用例では、請求の返金依頼への対応や、写真に写った猫の識別方法が示されています。
なぜ重要か
開発者は、大規模言語モデルによる生成を必要とせず、サポートボットや画像を使ったワークフローに高速なトークン不要の質問応答を組み込めます。
