ggml-org团队发布了llama.cpp b12329版。该版本新增一项CUDA优化，将权重缩放处理融合进矩阵乘法写入操作，从而加快nvfp4检查点的运行速度。更新还为Apple Silicon、Intel版macOS、iOS及多个Linux发行版提供了新的预编译二进制文件。用户可前往GitHub发布页面下载。
为什么重要
开发者可以在NVIDIA GPU上更快地运行Llama模型，也能在更多平台上使用开箱即用的二进制文件。
llama.cpp b12329加入CUDA权重缩放融合并推出新二进制文件
这款开源大语言模型运行时发布b12329版，带来CUDA优化，并为macOS、iOS和Linux提供预编译二进制文件。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
模型
Google推出更快、更便宜的Gemini 4 Hydrogen AI模型
新款Gemini 4 Hydrogen在速度、成本和多项基准测试中胜过更大型的Argon，现已面向全球开发者和消费者开放。
模型
Google推出Gemini 4 Hydrogen，取代Flash系列模型
全新的Gemini 4 Hydrogen现已登陆Google旗下AI产品，响应速度更快、成本更低，表现也比上一代3.8 Flash更可靠。
模型
Google Search 全球上线 Gemini 4 Hydrogen
Google 表示，最新的 Gemini 4 Hydrogen 模型现已面向全球所有 Search 用户开放，可更深入理解问题、提供更广泛的链接结果和更丰富的视觉答案。
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。