Oossa

Liquid AI推出适用于Apple Silicon的8位决策模型d1-omni-600M

该模型可一次处理文本、图像或音频,并回答多个指定类型的问题;通过MLX在Apple Silicon上运行时仅占用0.73 GB。

简讯作者: Oossa 发布日期: 最后更新: 1 分钟阅读

Liquid AI已在Hugging Face发布其决策模型d1-omni-600M的8位版本。该版本名为d1-omni-600M-MLX-8bit,可通过MLX-vlm库在Apple Silicon上运行,体积仅为0.73 GB,约为原版的60%。它能在一次前向传递中,针对文本、图像或音频输入回答多个指定类型的问题,且不会生成任何token。代码仓库还提供了pip安装命令,以及文本、图像和音频查询的示例代码。

为什么重要

开发者现在可以在Mac上本地运行多模态决策模型,无需GPU,从而支持更快速的边缘应用,例如自动化客服分流。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。