· 1 دقیقه مطالعه
پژوهشگران هشدار میدهند هوش مصنوعی ممکن است روند توسعه خودش را سرعت ببخشد
بیش از ۲۰ پژوهشگر هوش مصنوعی میگویند سامانهها ممکن است بهزودی بخش بزرگی از کارهای ساخت هوش مصنوعی بهتر را خودکار کنند. آنها از سیاستگذاران میخواهند دید روشنتری از تغییرات این پژوهشها به دست آورند.
Oossa · درباره Oossa
بیش از ۲۰ پژوهشگر هوش مصنوعی، از جمله جفری هینتون، یوشوا بنجیو و یاکوب پاچوکی، مسئول پژوهش OpenAI، هشدار میدهند که هوش مصنوعی ممکن است بهزودی به تسریع توسعه هوش مصنوعی توانمندتر کمک کند. آنها در مقالهای تازه میگویند این روند میتواند به «انفجار هوش» بینجامد؛ چرخهای سریع که در آن هوش مصنوعی به ساخت هوش مصنوعی بهتر کمک میکند و هوش مصنوعی بهتر هم روند را بیش از پیش سرعت میبخشد.
نویسندگان تأکید میکنند که زمانبندی و پیامد این روند نامشخص است. بااینحال، میگویند سامانههای هوش مصنوعی همین حالا هم بیشتر کدهای شرکتهای فعال در توسعه آنها را مینویسند و ممکن است ظرف چند سال کل فرایند پژوهش و توسعه را خودکار کنند.
چرا نگراناند؟
پژوهشگران هشدار میدهند اگر هوش مصنوعی بخش بیشتری از طراحی و آزمایش سامانههای جدید را بر عهده بگیرد، پیشرفتی که اکنون سالها زمان میبرد ممکن است در چند ماه رخ دهد. آنها نگراناند که دولتها و جامعه نتوانند با این سرعت واکنش نشان دهند. همچنین احتمال میدهند مردم کنترل هوش مصنوعی بسیار توانمند را از دست بدهند و قدرت میان شرکتها، دولتها و کشورها جابهجا شود.
اینها خطرهایی هستند که نویسندگان مقاله مطرح کردهاند، نه پیشبینی قطعیِ وقوع چنین پیامدی. مقاله زمانبندی دقیقتری از «ظرف چند سال» ارائه نمیکند و نمیگوید کدام بخشهای پژوهش هوش مصنوعی زودتر خودکار خواهند شد.
از سیاستگذاران چه میخواهند؟
پژوهشگران از سیاستگذاران میخواهند دید بسیار روشنتری از چگونگی خودکار شدن پژوهشهای هوش مصنوعی به دست آورند. این کار میتواند به تصمیمگیران کمک کند بفهمند این فناوری با چه سرعتی در حال تغییر است؛ هرچند در منبع، پیشنهادهای مشخص سیاستی مقاله تشریح نشدهاند.
چرا مهم است
اگر توسعه هوش مصنوعی سرعت بگیرد، ممکن است لازم باشد قوانین و تمهیدات ایمنی مربوط به ابزارهایی که مردم در محل کار و خانه استفاده میکنند نیز همگام با آن پیش بروند. درخواست پژوهشگران برای شفافیت بیشتر به این منظور است که سیاستگذاران بتوانند سرعت این روند را درک کنند؛ منبع نمیگوید چه قوانین تازهای باید تصویب شود.
منابع و ارجاعها
| # | منبع | رسانه | تاریخ | نکته اصلی |
|---|---|---|---|---|
| 1 | More than 20 leading AI researchers warn that automated AI research poses extreme risks ↗ | The Decoder | ۶ مهر ۱۴۰۵ | More than 20 AI researchers, including Geoffrey Hinton, Yoshua Bengio, and OpenAI research lead Jakub Pachocki, warn of an impending "intelligence explosion" from self-improving AI. |
1 منبع
آخرین بهروزرسانی:
Oossa · خبرنامه
هفتهٔ هوش مصنوعی، به زبان ساده
هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.