Oossa

شهادت مدیران شرکت‌های هوش مصنوعی در شورای نیویورک در ۵ اکتبر

مدیران Anthropic، OpenAI، Google و Meta درباره خطرات هوش مصنوعی شهادت دادند. SpaceXAI با وجود احضاریه در جلسه حاضر نشد.

نویسنده: منتشرشده توسط Oossa: آخرین به‌روزرسانی: 2 دقیقه مطالعه

Michael D Beckwith · Unsplash

مدیران Anthropic، OpenAI، Google و Meta در ۵ اکتبر ۲۰۲۶، در جلسه شورای شهر نیویورک درباره خطرات هوش مصنوعی و راهکارهای حفاظتی احتمالی، سوگند یاد کردند و شهادت دادند. شورا برای این جلسه هر ۵۱ عضو خود را گرد هم آورد و از کارشناسان ایمنی هوش مصنوعی و حمایت از مصرف‌کننده نیز دعوت کرد.

نمایندگان شرکت‌ها عبارت بودند از لوگان گراهام، رئیس تیم قرمزِ فناوری‌های مرزی Anthropic؛ مورگان دوایر، رئیس توسعه سیاست‌گذاری و عملیات OpenAI؛ آلیس فرند، مدیر سیاست‌گذاری هوش مصنوعی و فناوری‌های نوظهور Google؛ و شین کیهیل، مدیر سیاست‌گذاری هوش مصنوعی Meta در حوزه قانون‌گذاری. جیکوب کاکسون، پژوهشگر پیشین Anthropic، هشدار داد که شرکت‌های هوش مصنوعی رویکردی «بسیار بی‌ملاحظه» در پیش گرفته‌اند. الکس ترنر، پژوهشگر پیشین Google DeepMind، گفت هوش مصنوعیِ ناهمسو با اهداف انسانی می‌تواند خطری بزرگ‌تر از رقبای خارجی باشد. این‌ها هشدارهای مطرح‌شده از سوی سخنرانان بودند، نه یافته‌هایی که در جلسه اثبات شده باشند.

جولی منین، رئیس شورای شهر، از نمایندگان شرکت‌ها پرسید آیا می‌توانند احتمال وقوع یک فاجعه را کمّی‌سازی کنند و اگر هوش مصنوعی آسیب جدی به بار آورد، چه کسی باید از نظر قانونی مسئول باشد. او گفت پاسخ‌هایشان درباره خطر فاجعه‌بار «در بهترین حالت نگران‌کننده» بود. فرند از Google خواست چارچوبی جامع در سطح فدرال تدوین شود، اما منین از رویکرد سهل‌گیرانه دولت فدرال انتقاد کرد و گفت نمی‌توان انتظار داشت شرکت‌های هوش مصنوعی خودشان بر خود نظارت کنند.

شورا در حال بررسی تدابیر حفاظتی تازه است

این جلسه پس از چند هفته رایزنی شورا برگزار شد. بر اساس اعلامیه شورا در ۲۸ سپتامبر، Meta بدون تهدید به احضاریه با حضور موافقت کرد، در حالی که Anthropic، OpenAI و Google پس از هشدار شورا مبنی بر احتمال صدور احضاریه، حضورشان را تأیید کردند. شورا برای SpaceXAI متعلق به ایلان ماسک احضاریه صادر کرده بود، اما هیچ نماینده‌ای از این شرکت حاضر نشد. منین گفت شورا قصد دارد موضوع را در دادگاه پیگیری کند.

اعضای شورا همچنین پیشنهادهای محلی، از جمله طرح تشویقی برای افشاگران، حق شکایت برای نیویورکی‌هایی که از عامل‌های هوش مصنوعی آسیب می‌بینند و الزام به ارزیابی مستقل از سوی اشخاص ثالث را بررسی کردند. این‌ها پیشنهاد هستند، نه مقرراتی که تصویب شده باشند. منین گفت هدف از جلسه، گردآوری شهادت‌ها و نظرهاست تا شورا هنگام بررسی تدابیری که شهر می‌تواند به اجرا بگذارد، از آن‌ها استفاده کند.

چرا مهم است

این جلسه برای نیویورکی‌ها مسیرهای احتمالی پاسخ‌گو کردن شرکت‌ها را مطرح کرد؛ از جمله امکان شکایت در صورت آسیب‌رسانی یک عامل هوش مصنوعی. اما این تدابیر هنوز در حد پیشنهاد هستند و جلسه هم ثابت نکرد که شرکت‌ها می‌توانند خطرهای فاجعه‌بار را کمّی‌سازی یا از وقوعشان جلوگیری کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.