# دفاعی تازه، حملات تزریق پرامپت به هوش مصنوعی پزشکی را کاهش می‌دهد

> پژوهشگران نشان داده‌اند روشی بدون نیاز به آموزش، موفقیت حملات را به کمتر از ۷٪ می‌رساند و دقت تشخیص را حفظ می‌کند.

Oossa · 2026-10-19 · https://oossa.com/fa/new-defense-reduces-prompt-injection-attacks-on-medical-ai-agents

پژوهشی که در 2026‑10‑19 در arXiv منتشر شد، روشی ساده برای دفاع از سامانه‌های پزشکی چندعاملیِ مبتنی بر مدل‌های زبانی بزرگ (LLM) پیشنهاد می‌کند. نویسندگان دریافته‌اند افزودن تنها یک جمله می‌تواند تا 61٪ موارد را گمراه کند و بسیاری از این حملات از تدابیر حفاظتی موجود عبور می‌کنند. روش آن‌ها یافته‌های بیمار را از قضاوت‌های بالینی هوش مصنوعی جدا می‌کند و هر قضاوت را صرفاً بر اساس یافته‌ها می‌سنجد. این دفاع در معیار MedQA میزان موفقیت حمله را به 4‑7٪ کاهش می‌دهد و دقت معمول را پایین نمی‌آورد.

## حقایق

- میزان موفقیت حمله در MedQA از حداکثر 61٪ به 4‑7٪ کاهش می‌یابد
- مقاله در 2026‑10‑19 منتشر شده است

## چرا مهم است

اگر بیمارستان‌ها این روش را به کار بگیرند، می‌توانند به دستیارهای هوش مصنوعی اجازه دهند درباره پرونده‌ها گفت‌وگو کنند، بی‌آنکه نگران باشند یادداشتی مخرب بی‌سروصدا تشخیص‌ها را تغییر دهد.

## منابع و ارجاع‌ها

1. [The Model Knows Better: Defending Medical Multi-Agent Systems Against Prompt Injection](https://arxiv.org/abs/2610.22594) – arXiv, 2026-10-19

آخرین به‌روزرسانی: 2026-10-19