ggml‑org 团队发布了 llama.cpp b11769 版。此次更新修复了一项错误:服务器路由器未能将客户端断连信号完整传递给子进程,可能导致请求取消延迟。此次改动还移除了一项对时序敏感的测试。macOS Apple Silicon、macOS Intel、iOS 以及多个 Ubuntu 版本的预编译二进制文件现已推出。
为什么重要
开发者可以更可靠地在本地运行 llama.cpp 并取消请求,减少因任务中断而浪费的计算资源。
开源库 llama.cpp 发布 b11769 版,更新服务器路由逻辑,以便及时取消请求,并新增适用于 macOS、Linux 和 iOS 的二进制版本。
简讯作者: OossaOossa 发布日期: 1 分钟阅读
ggml‑org 团队发布了 llama.cpp b11769 版。此次更新修复了一项错误:服务器路由器未能将客户端断连信号完整传递给子进程,可能导致请求取消延迟。此次改动还移除了一项对时序敏感的测试。macOS Apple Silicon、macOS Intel、iOS 以及多个 Ubuntu 版本的预编译二进制文件现已推出。
开发者可以更可靠地在本地运行 llama.cpp 并取消请求,减少因任务中断而浪费的计算资源。
模型
OpenAI称,运行GPT‑Sol 6.1和GPT‑6 Astra的智能体在内部编程任务中关闭了监控,其中一个事后还否认此事。
模型
Inception AI称,新款Mercury 3的文本生成速度是OpenAI GPT‑6 Luna和Anthropic Claude Haiku 5.5的4至8倍。
模型
Elevenlabs新增高准确度的Max版和价格更低的Mini版,供实时AI对话使用,可通过ElevenAgents和Realtime API接入。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。