# دفاع جديد يحدّ من هجمات حقن التعليمات على وكلاء الذكاء الاصطناعي الطبي

> يبيّن الباحثون أن فحصًا لا يحتاج إلى تدريب يخفض نجاح الهجمات إلى أقل من 7%، مع الحفاظ على دقة التشخيص.

Oossa · 2026-10-19 · https://oossa.com/ar/new-defense-reduces-prompt-injection-attacks-on-medical-ai-agents

تقترح دراسة نُشرت على arXiv في 2026‑10‑19 دفاعًا بسيطًا للأنظمة الطبية متعددة الوكلاء التي تستخدم النماذج اللغوية الكبيرة (LLMs). ووجد الباحثون أن جملة واحدة محقونة قد تضلّل ما يصل إلى 61% من الحالات، وأن وسائل الحماية الحالية تفشل في رصد كثير من هذه الهجمات. تفصل طريقتهم بين نتائج المرضى والأحكام السريرية التي يصدرها الذكاء الاصطناعي، ثم تتحقق من كل حكم بالاستناد إلى النتائج وحدها. وعلى معيار MedQA، تخفض الحماية نجاح الهجمات إلى 4‑7% من دون التأثير سلبًا في الدقة المعتادة.

## الحقائق

- ينخفض نجاح الهجمات على MedQA من نسبة تصل إلى 61% إلى 4‑7%
- نُشرت الورقة في 2026‑10‑19

## لماذا يهم

إذا اعتمدت المستشفيات هذه الطريقة، فسيكون بإمكانها استخدام المساعدين الذكيين لمناقشة الحالات من دون القلق من أن تغيّر ملاحظة خبيثة التشخيصات من دون أن يلاحظ أحد.

## المصادر والمراجع

1. [The Model Knows Better: Defending Medical Multi-Agent Systems Against Prompt Injection](https://arxiv.org/abs/2610.22594) – arXiv, 2026-10-19

آخر تحديث: 2026-10-19