A ggml-org lançou a versão b12340 do llama.cpp. A atualização corrige uma vulnerabilidade de falsificação de solicitações do lado do servidor (SSRF) no proxy CORS e nos URLs de mídia. Ela também inclui binários pré-compilados para macOS com Apple Silicon, macOS com Intel, iOS e várias configurações de CPU e Vulkan no Ubuntu. Os arquivos estão disponíveis para download na página da versão no GitHub.
Com a atualização, os desenvolvedores podem executar o runtime sem a vulnerabilidade SSRF relatada anteriormente e contam com binários prontos para uso em uma variedade maior de plataformas.
Por que importa
Os desenvolvedores podem implantar servidores llama.cpp com mais segurança e executar o modelo com mais facilidade em sistemas macOS, iOS e Ubuntu.