# پرسش‌گری موازی، استنتاج چندپرسشی را سریع‌تر می‌کند

> روش جدید در هر گام رمزگشایی، سند مشترک را فقط یک‌بار می‌خواند و زمان پاسخ‌گویی را روی GPUهای Nvidia تا ۶ برابر کاهش می‌دهد.

Oossa · 2026-11-13 · https://oossa.com/fa/parallel-prompting-speeds-up-multi-question-llm-inference

پژوهشگر، Zekun Zhao، و همکارانش روش Parallel Prompting را معرفی کرده‌اند؛ روشی برای پاسخ‌گویی یک‌باره به پرسش‌های متعدد درباره یک متن طولانی. در این روش، هر پرسش به‌صورت جریانی جداگانه در یک درخواست واحد پردازش می‌شود و مدل در هر گام فقط یک‌بار سند را می‌خواند. این روش که با چند ده خط کد در سیستم SGLang پیاده‌سازی شده، روی CodeLlama‑7B اجرا می‌شود و افزایش سرعت چشمگیری دارد. سرعت آن روی GPU مدل Nvidia A100 برابر با 3.7 × و روی RTX A6000 حدود 6 × بیشتر از پیکربندی استاندارد SGLang است.

## حقایق

- سرعت 3.7 × بیشتر روی A100 و 5.9‑6.0 × بیشتر روی RTX A6000
- قابل استفاده برای 64‑256 پرسش درباره یک سند 8k‑16k توکنی

## چرا مهم است

این روش به توسعه‌دهندگان و تیم‌های برچسب‌گذاری داده امکان می‌دهد پرسش‌های بیشتری را درباره هر سند، بسیار سریع‌تر پردازش کنند و هزینه‌های GPU را کاهش دهند.

## منابع و ارجاع‌ها

1. [Read Once, Answer Many: Parallel Prompting for Shared-Context LLM Inference](https://arxiv.org/abs/2611.15130) – arXiv, 2026-11-13

آخرین به‌روزرسانی: 2026-11-13