Исследователи предупреждают: ИИ может ускорить собственную разработку

Более 20 исследователей в области ИИ, в том числе Джеффри Хинтон, Йошуа Бенжио и руководитель исследований OpenAI Якуб Пахоцки, предупреждают: вскоре ИИ может помочь ускорить разработку более мощных систем. В новой статье они пишут, что это может привести к «интеллектуальному взрыву» — быстрому циклу, в котором ИИ помогает создавать всё более совершенный ИИ, что ещё сильнее ускоряет этот процесс.

Авторы подчёркивают, что сроки и последствия такого развития событий неопределённы. Однако, по их словам, системы ИИ уже пишут большую часть кода в компаниях, которые их разрабатывают, а в ближайшие годы ИИ может автоматизировать весь процесс исследований и разработок.

Почему их это беспокоит?

Если ИИ возьмёт на себя больше работы по проектированию и тестированию новых систем, прогресс, на который сейчас уходят годы, может занять месяцы, предупреждают исследователи. Они опасаются, что правительства и общество не успеют реагировать в таком темпе. Кроме того, авторы допускают, что люди могут потерять контроль над высокоразвитым ИИ, а влияние перераспределится между компаниями, правительствами и странами.

Речь идёт о рисках, описанных авторами статьи, а не о прогнозе, что такой исход неизбежен. В статье не приводится более точных сроков, чем «в ближайшие годы», и не уточняется, какие именно направления исследований ИИ будут автоматизированы в первую очередь.

Чего они хотят от политиков?

Исследователи призывают политиков гораздо лучше понимать, в какой мере автоматизируются исследования в области ИИ. Это может помочь лицам, принимающим решения, оценить, как быстро меняется технология, хотя конкретные предложения по мерам политики в источнике не раскрываются.