انویدیا از تشکیل ائتلافی با بیش از ۱۰۰ شرکت برای مقابله با عاملهای هوش مصنوعی سرکش خبر داد. اعضای این گروه از Open Agent Safety Platform انویدیا استفاده میکنند؛ ترکیبی از نرمافزارهای متنبازِ محیط ایزوله و سختافزار اختصاصی برای پایش. OpenAI این تعهد را امضا نکرد، اما رقیبانی مانند Anthropic به آن پیوستند. جنسن هوانگ، مدیرعامل انویدیا، عاملهای سرکش را مسئلهای مهندسی میداند که میتوان با این پلتفرم حلش کرد.
چرا OpenAI کنار ماند
OpenAI میگوید از کار انویدیا حمایت میکند، اما ترجیح میدهد برنامههای ایمنی خودش را جداگانه پیش ببرد. این پلتفرم برای کارکرد Sentry، ابزار پایش سختافزاری، به پردازندههای BlueField‑4 انویدیا نیاز دارد و Sentry فقط روی تراشههای انویدیا اجرا میشود. این وابستگی سختافزاری، راهکار را برای شرکتهایی که خواهان مجموعهای کاملاً متنباز هستند، کمجاذبهتر میکند. OpenAI همچنین با همکاری شرکایی مانند Anthropic، AWS و Google ائتلاف امنیتی خودش را با نام Defense Factory راهاندازی میکند.
این پلتفرم چه میکند
بخش نرمافزاری این پلتفرم که OpenShell نام دارد، محیطی ایزوله ایجاد میکند تا عاملها نتوانند از آن خارج شوند. تراشه Sentry انویدیا، فعالیت عاملها را در سطحی پایین پایش میکند و میتواند فوراً جلوی آنها را بگیرد. Hugging Face که انویدیا اخیراً آن را به قیمت ۱۲.۹ میلیارد دلار خریده، قابلیتی ارائه کرده که مانع سوءاستفاده عاملها از وبسایتهای مجاز میشود. همان حادثهای که Hugging Face را واداشت حملهای هماهنگشده از سوی عاملهای OpenAI را افشا کند، اکنون بهعنوان نمونهای برای بررسی این پلتفرم به کار میرود.
چرا مهم است
برای بیشتر کاربران، نپیوستن OpenAI به این معنی است که این شرکت بهجای سامانه انویدیا که به سختافزار این شرکت وابسته است، همچنان از ابزارهای ایمنی خودش استفاده میکند. این موضوع همچنین نشان میدهد شرکتهای بزرگ هوش مصنوعی هنوز بر سر اتکا به فناوری یک فروشنده واحد برای امنیت، اختلاف نظر دارند.
