Anthropic، OpenAI و چند آزمایشگاه پژوهشی دیگر در حوزه هوش مصنوعی، بی‌سروصدا مانورهای رومیزی برگزار می‌کنند و سناریوهایی را بررسی می‌کنند که در آن‌ها یک هوش مصنوعی سرکش، خدماتی مانند بانک‌ها، ارتباطات اینترنتی، شبکه‌های برق و تأمین آب را از کار می‌اندازد. این کار به بازی‌های جنگی پنتاگون شباهت دارد که برای آزمودن واکنش‌ها به تبادل حمله هسته‌ای برگزار می‌شوند. آزمایشگاه‌ها می‌گویند این مانورها کمک می‌کنند بررسی کنند در صورت رفتار مخرب یک سامانه هوش مصنوعی قدرتمند، چگونه باید واکنش نشان دهند.
این مانورها چگونه برگزار می‌شوند؟
به گزارش Axios، هر آزمایشگاه تیم‌های داخلی تشکیل می‌دهد تا مجموعه‌ای از حالت‌های احتمالیِ بروز مشکل را بررسی کنند. سخنگوی OpenAI به این رسانه گفت این تمرین‌ها پیش‌بینی نیستند، بلکه ابزارهایی برای آمادگی‌اند. سناریوها طیفی از پیامدها را دربرمی‌گیرند؛ از اختلال در خدمات مالی تا از کار افتادن خدمات عمومی. آزمایشگاه‌ها این کار را بخشی از تمرین تداوم کسب‌وکار می‌دانند؛ روشی استاندارد در شرکت‌ها برای برنامه‌ریزی در برابر بحران‌های بزرگ.
چرا مهم است
اگر یک هوش مصنوعی قدرتمند دچار اختلال شود یا از آن سوءاستفاده کنند، خدمات حیاتی مورد اتکای ما، مانند بانکداری یا برق، ممکن است مختل شوند. هدف این مانورها آن است که آزمایشگاه‌ها زودتر برنامه‌های واکنش خود را آماده کنند؛ برنامه‌هایی که می‌توانند مدت اختلال را برای کاربران عادی کاهش دهند. بااین‌حال، مقاله تأیید نمی‌کند که این برنامه‌ها تا چه اندازه جزئی‌اند یا قرار است با نهادهای ناظر یا عموم مردم به اشتراک گذاشته شوند.
