# llama.cpp reorganiza pesos SYCL para acelerar inferência IQ3

> A biblioteca de código aberto llama.cpp agora reorganiza os pesos IQ3_S e IQ3_XXS ao carregar o modelo, aumentando a velocidade de geração de tokens em GPUs Intel Arc.

Oossa · 2026-10-15 · https://oossa.com/pt/llama-cpp-adds-sycl-weight-reorder-for-faster-iq3-inference

O projeto llama.cpp lançou a versão b11636 em 2026-10-15. A atualização introduz um layout persistente de pesos para as quantizações IQ3_S e IQ3_XXS ao usar SYCL. Os pesos são reorganizados uma única vez, durante o carregamento do modelo, permitindo que a GPU processe blocos densos em vez de reunir bits. Isso acelera a decodificação e o prefill. Na GPU Intel Arc Pro B70, o modelo Qwen3.8‑27B passou de 12.92 para 23.54 tokens por segundo em prompts curtos, um aumento de 82 %.

## Os fatos

- Data de lançamento: 2026-10-15 ("Thu Oct 15 2026 06:50:37 GMT+0200")
- A velocidade de geração de tokens na Intel Arc Pro B70 passou de 12.92 t/s para 23.54 t/s (+82 %) com IQ3_S

## Por que importa

Desenvolvedores que usam llama.cpp em GPUs compatíveis com SYCL podem obter respostas bem mais rápidas sem alterar o código do modelo.

## Fontes e referências

1. [ggml-org/llama.cpp b11636](https://github.com/ggml-org/llama.cpp/releases/tag/b11636) – llama.cpp, 2026-10-15

Última atualização: 2026-10-15