# روش تازه‌ای برای آزمودن حملات تصویری به مدل‌های هوش مصنوعی

> مقاله‌ای در arXiv می‌گوید حملات مبتنی بر تصویر توانسته‌اند تدابیر ایمنی چند مدل چندوجهی، از جمله GPT-5.6 و Gemini 3.1 Pro، را دور بزنند.

Oossa · 2026-10-30 · https://oossa.com/fa/new-method-tests-visual-jailbreaks-across-ai-models

تاریخ رویداد: 2026-10-28

مقاله‌ای پژوهشی که 28 اکتبر در arXiv ثبت شده، روشی را شرح می‌دهد که با آن می‌توان حملات تصویری متنوعی ساخت تا مدل‌های زبانی بزرگ چندوجهی (MLLM)—سامانه‌های هوش مصنوعی که علاوه بر متن، تصویر را هم پردازش می‌کنند—به درخواست‌های آسیب‌زا پاسخ دهند. نویسندگان این روش را Jailbreak Connectivity نامیده‌اند. در آزمایش‌های آن‌ها نرخ موفقیت حمله علیه چند مدل بالا بوده است؛ بااین‌حال، این نتایج ارزیابی‌های خود مقاله‌اند و تأییدی مستقل نیستند که حملات در همه شرایط موفق می‌شوند.

Jailbreak Connectivity به‌جای بهینه‌سازی یک تصویر در هر نوبت، مسیرهایی را در فضای تصویر جست‌وجو می‌کند که در آن‌ها حمله همچنان مؤثر می‌ماند. نمونه‌برداری در امتداد این مسیرها، تصاویر گوناگونی تولید می‌کند که هدفشان برانگیختن پاسخ ناایمن یکسان است. این روش همچنین از طبقه‌بندهای کوچک «جانشین»—مدل‌های ساده‌تری که به هدایت حملات علیه سامانه‌های دیگر کمک می‌کنند—و تابع هدفی استفاده می‌کند که قرار است برای طیفی از درخواست‌های آسیب‌زا کار کند، نه فقط یک مورد.

## آزمایش‌ها به چه نتایجی رسیدند؟

مقاله گزارش می‌دهد که در MM-SafetyBench، میانگین نرخ موفقیت حمله علیه Qwen3-VL-8B-Instruct برابر با 84.01%، علیه InternVL3.5-8B برابر با 85.77% و علیه Gemma-3-12B-IT برابر با 97.95% بوده است. نویسندگان می‌گویند این نتایج تا 68.36 واحد درصد از قوی‌ترین روش‌های مقایسه‌شده بهتر بوده‌اند. این رقم بزرگ‌ترین اختلاف گزارش‌شده است و به این معنا نیست که همه مدل‌ها به همین میزان شکست خورده‌اند.

مقاله همچنین از ارزیابی‌های جعبه‌سیاه می‌گوید؛ در این ارزیابی‌ها، مهاجمان بدون دسترسی به سازوکارهای درونی مدل آن را می‌آزمایند. بنا بر گزارش مقاله، در مقایسه با روشی به نام FigStep، Jailbreak Connectivity نرخ موفقیت را در GPT-5.6 به‌اندازه 24.69 واحد درصد و در Gemini 3.1 Pro به‌اندازه 27.34 واحد درصد افزایش داد. چکیده مقاله نرخ‌های اولیه، شرایط آزمایش یا جزئیات لازم برای سنجش میزان تعمیم‌پذیری این نتایج به نسخه‌های دیگر یا کاربردهای واقعی را ارائه نمی‌کند.

## این یافته‌ها چه چیزی را نشان می‌دهند و چه چیزی را نه؟

این پژوهش به مجموعه مطالعاتی می‌پیوندد که بررسی می‌کنند آیا ورودی‌های تصویری می‌توانند تدابیر ایمنی دستیارهای هوش مصنوعی را تضعیف کنند یا نه. ادعای اصلی مقاله این است که حملات تصویری مؤثر ممکن است به‌جای نمونه‌هایی پراکنده، نواحی پیوسته‌ای را شکل دهند؛ در نتیجه، پژوهشگران می‌توانند حملات متنوع‌تری بسازند و میزان انتقال‌پذیری آن‌ها میان مدل‌ها را بیازمایند. نرخ‌های موفقیت گزارش‌شده، موضوعی درخور توجه برای توسعه‌دهندگانی است که سامانه‌های مجهز به پردازش تصویر را ارزیابی می‌کنند؛ اما نشان نمی‌دهد که کاربران عادی بتوانند در گفت‌وگوهای روزمره با اطمینان تدابیر ایمنی را دور بزنند.

چکیده مقاله نتایج را شاهدی بر وجود ضعف‌های ساختاری در هم‌راستاسازی ایمنی معرفی می‌کند. بااین‌حال، مشخص نمی‌کند این روش بیرون از ارزیابی‌های نام‌برده‌شده چطور عمل می‌کند یا ارائه‌دهندگان مدل در واکنش به آن، تدابیر ایمنی خود را تغییر داده‌اند یا نه. پاسخ به این پرسش‌ها برای آن‌که ارقام بنچمارک را معیاری از خطر برای کاربران بدانیم، اهمیت دارد.

## حقایق

- تاریخچه ثبت مقاله در arXiv نشان می‌دهد که مقاله در 28 اکتبر 2026 ارسال شده است.
- Jailbreak Connectivity در MM-SafetyBench میانگین نرخ موفقیت حمله 84.01% را برای Qwen3-VL-8B-Instruct گزارش می‌کند.
- مقاله در همان بنچمارک، میانگین نرخ موفقیت 97.95% را برای Gemma-3-12B-IT گزارش می‌کند.
- در آزمایش‌های جعبه‌سیاه، این روش بنا بر گزارش مقاله در GPT-5.6 به‌اندازه 24.69 واحد درصد و در Gemini 3.1 Pro به‌اندازه 27.34 واحد درصد از FigStep بهتر عمل کرد.

## چرا مهم است

برای کسانی که از دستیارهای هوش مصنوعیِ پذیرای تصویر استفاده می‌کنند، این مقاله به ضعف احتمالی تدابیر ایمنی اشاره دارد: ممکن است تصویری به گرفتن پاسخی آسیب‌زا کمک کند، حتی اگر سامانه طوری طراحی شده باشد که از پاسخ‌گویی خودداری کند. آزمایش‌های گزارش‌شده به بنچمارک‌ها و نسخه‌های مشخصی از مدل‌ها مربوط‌اند و نشان نمی‌دهند احتمال دور زدن تدابیر ایمنی در استفاده روزمره چقدر است.

## منابع و ارجاع‌ها

1. [Jailbreak Connectivity: Towards Diverse, Transferable, and Universal Multimodal Large Language Model Jailbreak](https://arxiv.org/abs/2610.38091) – arXiv cs.LG, 2026-10-30
2. [Component Translation and Judge-Labelled Refusal: A Multilingual Safety Evaluation](https://arxiv.org/abs/2610.38181) – arXiv, 2026-10-30

آخرین به‌روزرسانی: 2026-10-30