· 1 دقیقه مطالعه
نماینده دموکرات خواستار مذاکره آمریکا و چین درباره پیمان ایمنی هوش مصنوعی شد
رو خانا، نماینده کنگره، در نامههایی به نهادهای اطلاعاتی آمریکا و سه شرکت هوش مصنوعی چین، خواستار جزئیاتی درباره تدابیر ایمنی و چارچوبی برای توافقی دوجانبه شد.
Oossa · درباره Oossa
رو خانا، ارشدترین دموکرات کمیته منتخب مجلس نمایندگان درباره چین، به دفتر مدیر اطلاعات ملی و سه شرکت هوش مصنوعی چینی—DeepSeek، Alibaba و Moonshot AI—نامه نوشت. او از آنها خواست توضیح دهند در صورت بروز یک حادثه فاجعهبار در حوزه هوش مصنوعی، مانند هک OpenAI بهدست Hugging Face در اوایل تابستان امسال، چه واکنشی نشان خواهند داد. خانا گفت پاسخها به کنگره و کاخ سفید کمک میکند پیمانی تدوین کنند که توسعه پرخطر هوش مصنوعی را محدود کند و قواعد بازرسی را مشخص سازد.
درخواستهای مطرحشده در نامهها
خانا در نامههایش از شرکتهای چینی خواسته درباره هرگونه فعالیت با هدف دستیابی به «ابرهوش» و خودبهبوددهی بازگشتی (RSI) اسناد و مدارکی ارائه کنند؛ یعنی مرحلهای که هوش مصنوعی میتواند بدون کمک انسان کدهای خودش را بهبود دهد. او میخواهد بداند آیا این شرکتها تدابیر ایمنی، مانند «کلیدهای توقف اضطراری» برای خاموشکردن سامانهای که از کنترل خارج شده، ایجاد کردهاند و در صورت امضای پیمان، اجازه میدهند بازرسان غیردولتی عملکردشان را بررسی کنند یا نه. در درخواست از نهاد اطلاعاتی، خانا خواستار ارزیابی این موضوع شده که آمریکا در صورت ازدسترفتن کنترل یک آزمایشگاه هوش مصنوعی بر باتهایش چگونه میتواند واکنش نشان دهد، و نیز خواستار بررسی رویکرد چین در قبال خطرهای فاجعهبار هوش مصنوعی شده است.
زمینه سیاسی
این اقدام پس از دیدار اخیر دونالد ترامپ، رئیسجمهور آمریکا، و شی جینپینگ، رئیسجمهور چین، صورت میگیرد؛ دیداری که در آن هر دو رهبر گفتند گفتوگو درباره هوش مصنوعی را ادامه خواهند داد، اما برنامه مشخصی ارائه نکردند. خانا میگوید این گفتوگو کافی نیست و شرکتهای فناوریِ سودمحور نباید تنها تعیینکنندگان قواعد ایمنی باشند. او همچنین اشاره کرد که برنی سندرز، سناتور مستقل، خواستار پیمانی مشابه میان آمریکا و چین درباره هوش مصنوعی شده است، درحالیکه برخی جمهوریخواهان تردید دارند چین به هرگونه توافقی پایبند بماند.
چرا مهم است
اگر پیمانی یا حتی کارگروهی درباره ایمنی هوش مصنوعی شکل بگیرد، میتواند قواعدی تعیین کند تا سامانههای خطرناک هوش مصنوعی بدون تدابیر ایمنی عرضه نشوند. برای کاربران عادی، این یعنی احتمال کمترِ قطعیهای ناگهانی، نشت اطلاعات یا کلاهبرداریهای مبتنی بر هوش مصنوعی که ممکن است دستگاههای شخصی یا خدمات آنلاین را تحت تأثیر قرار دهند.
منابع و ارجاعها
| # | منبع | رسانه | تاریخ | نکته اصلی |
|---|---|---|---|---|
| 1 | Will Chinese AI companies slow down? A top House Democrat wants answers ↗ | The Verge | ۷ مهر ۱۴۰۵ | Image: Tom Williams/CQ-Roll Call, Inc via Getty Images As President Donald Trump prepares to meet tech and AI CEOs in Washington, Rep. |
1 منبع
آخرین بهروزرسانی:
Oossa · خبرنامه
هفتهٔ هوش مصنوعی، به زبان ساده
هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.