ggml-org 团队发布了 llama.cpp b12419,服务器处理方式有所调整:现在会忽略空停止字符串。停止字符串是用于告知模型何时结束回复的文本序列。
发布页面列出了适用于 macOS、iOS 和 Linux 的版本,其中部分 Linux 系统还提供 CPU 和 Vulkan 版本。
为什么重要
运行 llama.cpp 服务器的用户可以传入空停止字符串,而服务器不会将其视为停止序列;发布说明未提及其他行为变化。
此版本让 llama.cpp 服务器忽略空停止字符串,并提供适用于多种操作系统和处理器类型的下载版本。
简讯作者: OossaOossa 发布日期: 1 分钟阅读
ggml-org 团队发布了 llama.cpp b12419,服务器处理方式有所调整:现在会忽略空停止字符串。停止字符串是用于告知模型何时结束回复的文本序列。
发布页面列出了适用于 macOS、iOS 和 Linux 的版本,其中部分 Linux 系统还提供 CPU 和 Vulkan 版本。
运行 llama.cpp 服务器的用户可以传入空停止字符串,而服务器不会将其视为停止序列;发布说明未提及其他行为变化。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。