Oossa

پروتکل چندعاملی تازه، حملات تزریق پرامپت را به صفر می‌رساند

پژوهشگران multi‑CaMeL را معرفی کرده‌اند؛ روشی برای ارتباط میان عامل‌ها که جلوی حملات تزریق غیرمستقیم پرامپت در سامانه‌های هوش مصنوعی چندعاملیِ سلسله‌مراتبی را می‌گیرد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: آخرین به‌روزرسانی: 1 دقیقه مطالعه

گروهی به سرپرستی James Peters‑Gill در مقاله‌ای که 6 اکتبر 2026 منتشر شد، از multi‑CaMeL پرده برداشتند؛ پروتکلی که هنگام فراخوانی یک عامل توسط عامل دیگر، دستورهای مورداعتماد را از داده‌های غیرقابل‌اعتماد جدا نگه می‌دارد. این روش مانع حملات تزریق غیرمستقیم پرامپت می‌شود؛ حملاتی که می‌توانند عامل هوش مصنوعی را به پیروی از فرمان‌های مخربِ پنهان وادار کنند. در آزمایش‌ها، multi‑CaMeL نرخ موفقیت حمله را به 0.0% رساند؛ این رقم برای CaMeL تک‌عاملی 0.2% و در نبود هرگونه محافظت 12.9% بود. این پروتکل هزینه عملکردی اندکی هم دارد، اما با استفاده از مدل‌های زبانی بزرگ‌تر، این هزینه کمتر می‌شود.

چرا مهم است

توسعه‌دهندگان دستیارهای هوش مصنوعیِ مجهز به ابزار می‌توانند با اتکا به multi‑CaMeL جلوی پرامپت‌های مخرب پنهان را هنگام همکاری عامل‌ها بگیرند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.