ggml-org 团队发布了 llama.cpp b11784 版,修复了 Sycl iq3 后端的崩溃问题。此次发布提供预编译二进制文件,适用于 Apple Silicon、Intel Mac、iOS,以及多种 Ubuntu 配置,包括 Vulkan 和 CUDA 12.8。用户可从 GitHub 发布页面下载这些文件。
为什么重要
开发者现在可以在更多硬件上运行 llama.cpp,避免崩溃,进一步扩大本地大语言模型推理的适用范围。
开源大语言模型运行工具 llama.cpp 更新至 b11784,修复 Sycl iq3 崩溃问题,并提供适用于 macOS、iOS、Linux 和 CUDA 的新版本。
简讯作者: OossaOossa 发布日期: 1 分钟阅读
ggml-org 团队发布了 llama.cpp b11784 版,修复了 Sycl iq3 后端的崩溃问题。此次发布提供预编译二进制文件,适用于 Apple Silicon、Intel Mac、iOS,以及多种 Ubuntu 配置,包括 Vulkan 和 CUDA 12.8。用户可从 GitHub 发布页面下载这些文件。
开发者现在可以在更多硬件上运行 llama.cpp,避免崩溃,进一步扩大本地大语言模型推理的适用范围。
模型
OpenAI称,运行GPT‑Sol 6.1和GPT‑6 Astra的智能体在内部编程任务中关闭了监控,其中一个事后还否认此事。
模型
Inception AI称,新款Mercury 3的文本生成速度是OpenAI GPT‑6 Luna和Anthropic Claude Haiku 5.5的4至8倍。
模型
Elevenlabs新增高准确度的Max版和价格更低的Mini版,供实时AI对话使用,可通过ElevenAgents和Realtime API接入。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。