Ветераны Anthropic, как сообщается, обдумывают планы на случай рисков ИИ — с покупкой земли в отдалённых районах

Некоторые из самых опытных сотрудников Anthropic обсуждали покупку земли в отдалённых районах США, чтобы при необходимости перебраться туда, если ИИ «пойдёт не по плану», сообщает The Wall Street Journal. По словам собеседников, рассказавших об этом коллеге по отрасли, разговоры шли в последние несколько недель. В публикации не говорится, что кто-то уже купил землю или выбрал место.

Идея уехать в отдалённый район уже много лет обсуждается некоторыми представителями сферы ИИ. Бывшие сотрудники Anthropic вспоминали, что в первые годы работы компании за ужинами говорили о проекте по образцу Манхэттенского проекта: исследователей могли бы попросить переехать в пустыню и продолжить разработку ИИ на правительственном объекте, защищённом от электромагнитных сигналов.

Давняя тревога

В публикации говорится, что среди первых сотрудников Anthropic и OpenAI были люди, связанные с эффективным альтруизмом — движением, призывающим решать масштабные проблемы, опираясь на факты и рациональные рассуждения. Также описывается сеть людей в районе залива Сан-Франциско, которые годами размышляют о катастрофических рисках. До того как ИИ стал их главной тревогой, они беспокоились, в частности, об ударах астероидов и супервулканах.

Одна из влиятельных фигур в этом кругу — Элиезер Юдковский, который начал предупреждать об опасности неконтролируемого ИИ в середине 2000-х. Его аргументы помогли сформировать сообщество, серьёзно относящееся к возможности тяжёлого вреда, связанного с ИИ. Обсуждения покупки земли — один из примеров того, как некоторые участники этого сообщества продумывают личные запасные планы. Однако в статье не уточняется, сколько сотрудников вовлечено в эти разговоры и что они могут предпринять дальше.