گوگل در ماه سپتامبر قابلیت جدید «تشخیص ناهنجاری عامل» را با پنج آزمون عمومی امنیت عامل‌ها ارزیابی کرد. این ابزار گزارش‌های عامل را بررسی می‌کند و نشست‌هایی را که از رفتار مورد انتظار خارج می‌شوند، بدون افزودن تأخیر شناسایی می‌کند. در مجموع، این ابزار 87٪ از دستورهای زیان‌باری را که عامل‌ها واقعاً اجرا کردند، شناسایی کرد؛ درحالی‌که نرخ هشدارهای اشتباه در نشست‌های بی‌خطر بین 2٪ تا 16٪ بود.
این آزمون‌ها—AgentDojo، InjecAgent، Agent Security Bench، AgentDyn و AgentHarm—در مجموع 1,774 نشست را پوشش دادند. تشخیص ناهنجاری عامل در شناسایی دستورهای پنهان‌شده در حافظه بلندمدت بیشترین مشکل را داشت و فقط 4 مورد از 18 مورد را شناسایی کرد.
چرا مهم است
شرکت‌هایی که از عامل‌های Gemini استفاده می‌کنند، می‌توانند پس از وقوع، بیشتر اقدامات پرخطر را ببینند؛ اما ممکن است برای مقابله با حمله‌های مبتنی بر حافظه همچنان به تدابیر حفاظتی بیشتری نیاز داشته باشند.
