Oossa

llama.cpp b12419:服务器将忽略空停止字符串

此版本让 llama.cpp 服务器忽略空停止字符串,并提供适用于多种操作系统和处理器类型的下载版本。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml-org 团队发布了 llama.cpp b12419,服务器处理方式有所调整:现在会忽略空停止字符串。停止字符串是用于告知模型何时结束回复的文本序列。

发布页面列出了适用于 macOS、iOS 和 Linux 的版本,其中部分 Linux 系统还提供 CPU 和 Vulkan 版本。

为什么重要

运行 llama.cpp 服务器的用户可以传入空停止字符串,而服务器不会将其视为停止序列;发布说明未提及其他行为变化。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。