AIが自らの開発を加速させる可能性、研究者らが警鐘

Geoffrey Hinton、Yoshua Bengio、OpenAIの研究責任者であるJakub Pachockiら、20人を超えるAI研究者が、AIがまもなく、より高性能なAIの開発を加速させる手助けをする可能性があると警鐘を鳴らしている。新たな論文で研究者らは、AIがより優れたAIを開発し、それがさらに開発を加速させるという急速なサイクルが生じ、「知能爆発」につながる恐れがあると述べている。

著者らは、いつ起きるのか、どのような結果になるのかは不確かだと強調する。一方で、AI開発企業ではすでにシステムがコードの大半を書いており、AIが数年以内に研究開発の全プロセスを自動化する可能性があると指摘している。

研究者らはなぜ懸念しているのか？

新たなシステムの設計やテストにAIがより多く携わるようになれば、現在は数年かかる進歩が数カ月で実現する可能性があると研究者らは警告する。そのペースに政府や社会が対応しきれないのではないかと懸念している。また、高度なAIに対する人間の制御が失われ、企業や政府、国の間で権力の移り変わりが起きる可能性も挙げている。

これらは論文の著者らが示したリスクであり、そうした結果が確実に起きるという予測ではない。記事は「数年以内」より詳しい時期を示しておらず、AI研究のどの部分が最初に自動化されるのかも説明していない。

政策立案者に何を求めているのか？

研究者らは、AI研究の自動化がどのように進んでいるのかを、政策立案者がより詳しく把握できるようにすることを求めている。そうすれば、技術がどれほどの速さで変化しているのかを意思決定者が理解しやすくなる可能性がある。ただし、論文の具体的な政策提案については、元記事に詳しい説明はない。