# Parallel Prompting accelera le risposte a più domande

> Il nuovo metodo legge un documento condiviso una sola volta per ogni passaggio di generazione, riducendo i tempi fino a sei volte sulle GPU Nvidia.

Oossa · 2026-11-13 · https://oossa.com/it/parallel-prompting-speeds-up-multi-question-llm-inference

I ricercatori Zekun Zhao e il suo team hanno presentato Parallel Prompting, un metodo per rispondere in un’unica volta a molte domande sullo stesso testo lungo. Ogni domanda viene gestita come un flusso separato all’interno di un’unica richiesta, così il modello legge il documento una sola volta per passaggio. Implementata nel sistema SGLang con poche decine di righe di codice, la tecnica funziona con CodeLlama‑7B e offre notevoli incrementi di velocità. Su una GPU Nvidia A100 è 3.7 × più veloce, mentre su una RTX A6000 è circa 6 × più veloce rispetto alla configurazione SGLang standard.

## I fatti

- 3.7 × più veloce su A100, 5.9‑6.0 × più veloce su RTX A6000
- Funziona con 64‑256 domande per documento da 8k‑16k token

## Perché conta

Permette a sviluppatori e team che si occupano di etichettatura dei dati di elaborare molte più domande per documento in meno tempo, riducendo i costi delle GPU.

## Fonti e riferimenti

1. [Read Once, Answer Many: Parallel Prompting for Shared-Context LLM Inference](https://arxiv.org/abs/2611.15130) – arXiv, 2026-11-13

Ultimo aggiornamento: 2026-11-13