# Parallel Prompting acelera respostas a várias perguntas

> O método lê um documento compartilhado uma vez a cada etapa de decodificação e reduz o tempo de consulta em até seis vezes em GPUs Nvidia.

Oossa · 2026-11-13 · https://oossa.com/pt/parallel-prompting-speeds-up-multi-question-llm-inference

Os pesquisadores Zekun Zhao e sua equipe apresentaram o Parallel Prompting, um método para responder de uma só vez a várias perguntas sobre o mesmo texto longo. Cada pergunta é tratada como um fluxo separado dentro de uma única solicitação, de modo que o modelo lê o documento apenas uma vez por etapa. Implementada no sistema SGLang com algumas dezenas de linhas de código, a técnica funciona com o CodeLlama‑7B e oferece grandes ganhos de velocidade. Em uma GPU Nvidia A100, é 3.7 × mais rápida; em uma RTX A6000, é cerca de 6 × mais rápida que a configuração padrão do SGLang.

## Os fatos

- 3.7 × mais rápida na A100; 5.9‑6.0 × mais rápida na RTX A6000
- Funciona com 64‑256 perguntas por documento de 8k‑16k tokens

## Por que importa

A técnica permite que desenvolvedores e equipes de rotulagem de dados processem muito mais rapidamente várias consultas por documento, reduzindo os custos com GPUs.

## Fontes e referências

1. [Read Once, Answer Many: Parallel Prompting for Shared-Context LLM Inference](https://arxiv.org/abs/2611.15130) – arXiv, 2026-11-13

Última atualização: 2026-11-13