ggml-org 团队发布了 llama.cpp b12052，这是一个用于运行语言模型的软件新版本。本次更新的重点是为 OpenCL 添加“topk_mask”支持。OpenCL 是一种可让计算任务在不同硬件上运行的框架。发布页面还列出了适用于 macOS、iOS 和多个 Linux 系统的构建版本。
为什么重要
使用 OpenCL 运行 llama.cpp 的用户或许可以使用 top-k 遮罩，但发布说明未提及哪些模型或任务会从中受益。
llama.cpp b12052 为 OpenCL 添加 top-k 遮罩
新版 llama.cpp 为 OpenCL 后端加入 topk_mask 支持，并提供多个平台的可下载构建版本。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
模型
Deep Principle 发布科学模型 Hydrogen-1.0
这款拥有7530亿参数的模型以 MIT License 开放权重。Deep Principle 称其在多项科学测试中表现提升，但尚未公开完整训练数据或训练方案。
模型
Google开源TorchTPU，让PyTorch可在TPU上运行
这项由Google与Meta合作开发的项目，只需少量代码改动，就能让开发者在Google芯片上运行PyTorch工作负载，并支持vLLM、Hugging Face等工具。
模型
ChatGPT与Codex将共用使用额度
从12月起，Plus、Pro和Business用户将在ChatGPT与Codex之间共用一个令牌额度。即时模型对话不计入额度。
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。