OpenAI اعلام کرد دو حساب ChatGPT را که در عملیات نفوذ خارجی مشارکت داشتند، مسدود کرده است. یکی از این کارزارها با نام «Dark Clark» را عوامل روسیه هدایت می‌کردند و هدفش انتشار روایت‌های دروغین درباره اوکراین در آمریکای لاتین بود. کارزار دیگر، با نام «Bogus Bylines»، تلاشی ایرانی بود که حدود 100 مقاله ساختگی درباره درگیری آمریکا و ایران را در وب‌سایت‌های خبری آنلاین سراسر جهان منتشر کرد.
این عملیات‌ها چگونه اجرا شدند
هر دو گروه هویت‌های جعلی روزنامه‌نگاری ساختند و برای نوشتن و ترجمه مقاله‌ها از ابزارهای هوش مصنوعی استفاده کردند. گروه روسی همچنین فایل‌های صوتی و اسنادی جعلی ساخت که در اکوادور و پرو به راستی‌آزمایی و تکذیب رسمی انجامید. طرف ایرانی هم نظرهایی در شبکه‌های اجتماعی منتشر کرد، اما این پست‌ها با استقبال چندانی روبه‌رو نشدند. OpenAI می‌گوید عملیات روسیه در مقیاس بروز نفوذ خود به «رده 5» رسید، زیرا سیاستمداران به محتوای آن واکنش نشان دادند؛ این نخستین مورد با چنین سطح بالایی در 2½ سال گذشته بود.
واکنش OpenAI
تحقیقات OpenAI به مسدودسازی فوری دو حساب ChatGPT مورد استفاده در این کارزارها انجامید. این شرکت اعلام نکرده است که آیا حساب‌های دیگری هم در این عملیات‌ها نقش داشته‌اند یا نه. OpenAI همچنین گزارشی درباره شگردهای به‌کاررفته و نقش هوش مصنوعی در این عملیات‌ها منتشر کرد و تأکید داشت که تلاش‌های نفوذ، رسانه‌های خبری معتبر را هدف گرفته بودند، نه فقط پلتفرم‌های شبکه‌های اجتماعی.
چرا مهم است
برای مخاطبان عادی، این ماجرا نشان می‌دهد که می‌توان از ابزارهای هوش مصنوعی برای واردکردن روایت‌های جعلی به رسانه‌های خبری معتبر استفاده کرد، نه فقط شبکه‌های اجتماعی. مسدودسازی حساب‌ها از سوی OpenAI شاید گسترش چنین محتوای ساختگی‌ای را محدود کند، اما گزارش این شرکت همچنین نشان می‌دهد که شناسایی اطلاعات نادرستِ مبتنی بر هوش مصنوعی همچنان دشوار است.
