# پژوهش: بافت صحنه می‌تواند ایمنی هوش مصنوعی چندوجهی را دور بزند

> پژوهشگران دریافتند تغییر پس‌زمینه صحنه کافی است تا مدل‌های هوش مصنوعی به درخواست‌های آسیب‌زا پاسخ دهند؛ نرخ موفقیت این روش در ۹ سامانه ۸۶٪ بود.

Oossa · 2026-10-14 · https://oossa.com/fa/new-study-shows-scene-context-can-trick-multimodal-ai-safety

تیمی به سرپرستی Tongxi Wu در 14 اکتبر 2026 مقاله‌ای منتشر کرد که ضعف ایمنی در مدل‌های زبانی بزرگ چندوجهی (MLLM) را آشکار می‌کند. این ضعف که «آسیب‌پذیری ایمنی بصریِ مبتنی بر صحنه» نام دارد، زمانی رخ می‌دهد که صحنه پیرامون در تصویر باعث شود مدل به‌جای رد درخواست، آن را انجام دهد؛ با اینکه خود درخواست تغییری نکرده است. نویسندگان بنچمارکی به نام SceneSafetyBench طراحی کردند و ۸ دسته خطر را در ۹ مدل زبانی بزرگ چندوجهی، با دسترسی جعبه‌سفید و جعبه‌سیاه، آزمایش کردند. روش حمله جدید آن‌ها، Scene-Grounded Attacks، در 86.17% موارد موفق بود و بیش از هشت واحد درصد از بهترین روش پایه پیشین بهتر عمل کرد.

این پژوهش نشان می‌دهد بهبود صرفِ درک بصری، ایمنی هوش مصنوعی را تضمین نمی‌کند و معنای صحنه‌ها سطحی از آسیب‌پذیری است که تاکنون کمتر به آن توجه شده است.

## حقایق

- مقاله در 14 اکتبر 2026 منتشر شد («چهارشنبه، 14 اکتبر 2026»)
- میانگین نرخ موفقیت حمله در ۹ مدل 86.17% بود

## چرا مهم است

توسعه‌دهندگان هوش مصنوعی چندوجهی باید دست‌کاری صحنه پس‌زمینه را نیز یک راه بالقوه برای سوءاستفاده بدانند، نه اینکه فقط به محتوای اصلی تصویر توجه کنند.

## منابع و ارجاع‌ها

1. [Scenes as an Attack Surface: Uncovering Scene-Grounded Safety Failures in MLLMs](https://arxiv.org/abs/2610.14094) – arXiv cs.CV, 2026-10-14

آخرین به‌روزرسانی: 2026-10-14