A equipe ggml-org publicou a versão b11713 do llama.cpp em 17 de outubro de 2026. A atualização melhora o desempenho na CUDA para tipos de baixa precisão com o uso de um algoritmo MMVQ mais rápido. Também inclui uma pequena correção para GPUs HIP (AMD) nas quantizações Q3_K e Q6_K. Já estão disponíveis para download versões binárias pré-compiladas para macOS, iOS e várias configurações do Ubuntu (CPU, Vulkan e CUDA).
Por que importa
Desenvolvedores podem executar LLMs quantizados mais rapidamente em GPUs NVIDIA, reduzindo os custos de inferência em aplicações locais de IA.
