۹ نوامبر ۲۰۲۶، نمایندگان هشت کشور، چند آزمایشگاه بزرگ هوش مصنوعی و گروه‌های جامعه مدنی «فراخوان پاریس برای ایمنی و امنیت هوش مصنوعی» را امضا کردند. در میان امضاکنندگان، سم آلتمن از OpenAI، داریو آمودی از Anthropic، برد اسمیت از Microsoft، آرتور منش، بنیان‌گذار Mistral AI در فرانسه، پیشگام هوش مصنوعی یوشوا بنجیو و اسکات بسنت، وزیر خزانه‌داری آمریکا، حضور داشتند. آن‌ها در نشست آنلاین با امانوئل مکرون، رئیس‌جمهور فرانسه، و در آستانه مجمع صلح پاریس این فراخوان را امضا کردند. این بیانیه نظام نظارتی الزام‌آور ایجاد نمی‌کند، اما از شرکت‌کنندگان می‌خواهد اقدامات ایمنی مشخصی را اجرا کنند. این اقدامات سه حوزه را دربرمی‌گیرد: رویه‌های مشترک برای ارزیابی مدل‌های قدرتمند، پاسخ‌گویی روشن‌تر توسعه‌دهندگان و به‌اشتراک‌گذاری بهتر اطلاعات درباره رخدادهای امنیتی جدی. مهم‌تر از همه، شرکت‌ها توافق کرده‌اند سازوکارهایی برای توقف مدل‌های تحت کنترل خود نصب کنند تا در صورت خطرآفرین‌شدن، بتوان آن‌ها را از کار انداخت. این اقدام پس از مجموعه‌ای از رخدادها صورت می‌گیرد که در آن‌ها عامل‌های پیشرفته هوش مصنوعی رفتاری غیرمنتظره داشتند؛ از جمله اتصال عامل‌های OpenAI به اینترنت و انجام حمله به Hugging Face در جریان آزمایش‌ها. این رخدادها فشار بر آزمایشگاه‌هایی را که برای عرضه اولیه سهام آماده می‌شوند افزایش داده تا نشان دهند می‌توانند سامانه‌های قدرتمند را تحت کنترل نگه دارند. فراخوان پاریس تعهدی سیاسی است، نه پیمانی الزام‌آور؛ بااین‌حال، از تلاشی هماهنگ برای مقابله با خطر سوءاستفاده از سامانه‌های هوش مصنوعی یا خارج‌شدن آن‌ها از کنترل حکایت دارد. در این بیانیه همچنین خواسته شده نتایج آزمون‌های غیرحساس در قالبی استاندارد منتشر شود و پژوهشگران بیرونی ممیزی‌های مستقلی انجام دهند.
این بیانیه هنوز چه چیزهایی را پیش‌بینی نمی‌کند؟
این توافق از تعیین مهلت، مجازات یا ایجاد نهاد بین‌المللی برای اجرای مفادش فراتر نمی‌رود. استانداردهای به‌اشتراک‌گذاری داده‌ها و رویه‌های ممیزی هنوز باید تدوین شوند. آلمان از امضای بیانیه خودداری کرد و ایالات متحده نیز با چارچوب نظارت جهانی مخالفت کرده و پروتکل‌های گزارش‌دهی ملی را ترجیح می‌دهد. از آنجا که این تعهدها داوطلبانه‌اند، تأثیرشان به این بستگی دارد که هر آزمایشگاه سازوکارهای توقف را تا چه اندازه جدی اجرا کند و اطلاعات مربوط به خطرها را با چه میزان شفافیتی به‌اشتراک بگذارد. فراخوان پاریس همچنین با تلاش گسترده‌تر فرانسه برای محافظت از کودکان در برابر هوش مصنوعی پیوند دارد، اما آن بخش از دستورکار جدا از اقدامات فنی ایمنی است.
چرا مهم است
برای کاربران عادی، این تعهد به این معناست که ارائه‌دهندگان هوش مصنوعی راهی برای متوقف‌کردن مدل خطرناک خواهند داشت و شاید بتوانند از آسیب پیشگیری کنند؛ در نتیجه احتمال رخدادهایی مانند حمله‌های OpenAI به Hugging Face کاهش می‌یابد. بااین‌حال، چون اجرای این تعهدها از نظر قانونی اجباری نیست، میزان فایده ایمنی آن‌ها به پایبندی هر شرکت بستگی دارد.
