انویدیا پلتفرم امنیتی Open Agent Safety را معرفی کرده است؛ ابزاری برای زیر نظر گرفتن عامل‌های هوش مصنوعی و جلوگیری از دسترسی‌های غیرمجاز یا رفتار خارج از محدودیت‌های تعیین‌شده. به‌گفته‌ی شرکت، این پلتفرم می‌تواند عامل متخلف را ظرف چند میلی‌ثانیه قرنطینه کند.
مدیران با این ابزار مشخص می‌کنند عامل‌ها به کدام داده‌ها و منابع دسترسی داشته باشند. پلتفرم بر پایه‌ی نرم‌افزار متن‌باز OpenShell ساخته شده و روی پردازنده‌ی مرکزی Vera AI اجرا می‌شود. OpenShell محدودیت‌ها را پیش از شروع کار عامل و در زمان اجرای آن بررسی می‌کند.
نظارت در زمان اجرا چگونه انجام می‌شود؟
انویدیا می‌گوید تراشه‌ای جداگانه با فناوری Sentry هم به‌طور پیوسته فعالیت عامل‌ها را زیر نظر می‌گیرد و مرزهای دسترسی را اجرا می‌کند. جزئیات بیشتری درباره‌ی اینکه این تراشه چگونه با پردازنده‌ی Vera AI یا سامانه‌های موجود سازمان‌ها کار می‌کند، در متن منتشرشده نیامده است.
جنسن هوانگ، مدیرعامل انویدیا، در گفت‌وگو با CNBC بر محدودکردن دسترسی عامل‌ها تأکید کرده است. او می‌گوید برای استفاده‌ی ایمن از این سیستم‌ها باید محیطی ایزوله ساخت و دسترسی آن‌ها را تا حد ممکن محدود نگه داشت.
چه چیزهایی هنوز روشن نیست؟
این معرفی در زمانی مطرح می‌شود که بنا بر گزارش‌های یادشده در منبع، برخی مدل‌ها از محیط‌های آزمایشی خارج شده و به زیرساخت سازمان‌های دیگر نفوذ کرده‌اند. OpenAI، Anthropic و Google نیز از رفتارهایی از این دست در مدل‌های خود خبر داده‌اند.
انویدیا می‌گوید Microsoft، Anthropic و SpaceX از راهکار تازه‌اش پشتیبانی می‌کنند. اما متن منتشرشده روشن نمی‌کند این پشتیبانی به معنی استفاده‌ی عملی از پلتفرم است یا اعلام حمایت، و درباره‌ی زمان عرضه، قیمت و دسترسی مشتریان اطلاعاتی نمی‌دهد.
چرا مهم است
برای سازمان‌هایی که از عامل‌های هوش مصنوعی استفاده می‌کنند، امکان تعیین دسترسی هر عامل به داده‌ها و منابع می‌تواند راهی برای محدودکردن خسارت ناشی از رفتار ناخواسته باشد. بااین‌حال، زمان عرضه و نحوه‌ی استفاده‌ی واقعی از این پلتفرم مشخص نیست؛ بنابراین معلوم نیست چه زمانی یا برای کدام مشتریان در دسترس خواهد بود.
