گاوین نیوسام، فرماندار کالیفرنیا، نقشه راهی برای اجرای قوانین تازه ایالت درباره هوش مصنوعی منتشر کرد که خواستار نظارت مستقل بر هوش مصنوعی پیشرفته است. در این پیشنهادها آمده است که توسعهدهندگان بزرگ هوش مصنوعی پیشرفته باید به ارزیابان دارای مجوز اجازه دهند خطرات فاجعهبار را بررسی کنند؛ ارزیابان نیز باید گزارش خود را به ایالت بدهند، نه به شرکتهایی که ارزیابی میکنند.
این نقشه راه همچنین میگوید ایالت باید ارزیابی پژوهش و توسعه خودکار هوش مصنوعی، از جمله خودبهبودی بازگشتی، را در اولویت قرار دهد. سازمان Fathom که از راستیآزمایی مستقل حمایت میکند، میگوید این گزارش بازتابدهنده بسیاری از پیشنهادهای آن است. نقشه راه چارچوبی پیشنهادی ترسیم میکند و زمان اجراییشدن الزامات را مشخص نمیکند.
چرا مهم است
در صورت تصویب، این طرح توسعهدهندگان هوش مصنوعی پیشرفته را ملزم میکند ارزیابی مستقل خطرات را بپذیرند؛ اما نقشه راه نمیگوید این تعهدات از چه زمانی آغاز میشوند.