Liquid AI已在Hugging Face发布其决策模型d1-omni-600M的8位版本。该版本名为d1-omni-600M-MLX-8bit,可通过MLX-vlm库在Apple Silicon上运行,体积仅为0.73 GB,约为原版的60%。它能在一次前向传递中,针对文本、图像或音频输入回答多个指定类型的问题,且不会生成任何token。代码仓库还提供了pip安装命令,以及文本、图像和音频查询的示例代码。
为什么重要
开发者现在可以在Mac上本地运行多模态决策模型,无需GPU,从而支持更快速的边缘应用,例如自动化客服分流。