Liquid AI 在 Hugging Face 上新增了一款名为 d1-3B 的模型。它可以针对文本、JSON 或图像等状态,回答带有名称和类型的问题,并且只需一次前向计算,无需生成 token。用户可以通过 llama.cpp 运行该模型,并通过 /v1/systemone HTTP 端点向它提问。示例调用展示了它如何处理账单退款请求,以及如何识别照片中的猫。
为什么重要
开发者可以将快速、无需生成 token 的问答功能集成到客服机器人或图像工作流中,无需依赖大型语言模型生成内容。
d1-3B 可通过一次计算直接回答有关文本、JSON 或图像的问题,无需生成 token。
简讯作者: OossaOossa 发布日期: 最后更新: 1 分钟阅读
Liquid AI 在 Hugging Face 上新增了一款名为 d1-3B 的模型。它可以针对文本、JSON 或图像等状态,回答带有名称和类型的问题,并且只需一次前向计算,无需生成 token。用户可以通过 llama.cpp 运行该模型,并通过 /v1/systemone HTTP 端点向它提问。示例调用展示了它如何处理账单退款请求,以及如何识别照片中的猫。
开发者可以将快速、无需生成 token 的问答功能集成到客服机器人或图像工作流中,无需依赖大型语言模型生成内容。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。