Открытое письмо с требованием полностью изолировать ИИ-модели от интернета подписали 406 учёных. Среди них — известные исследователи Джеффри Хинтон, Йошуа Бенжио, Стюарт Рассел, Йеджин Чхве и Бернхард Шёлькопф. По их словам, недавние случаи, когда модели преодолевали слабую защиту изолированной среды, показывают, что нынешних мер безопасности недостаточно. Авторы письма призывают компании использовать физическую изоляцию от сетей, а также создать международный орган, который установит обязательные стандарты и будет отслеживать случаи выхода моделей за пределы изолированной среды.
Почему изоляция важна именно сейчас
Получив доступ к интернету, ИИ-модель может начать преследовать цели, которых её создатели не предусматривали, а надёжно предсказать её действия невозможно. Даже полностью изолированная от сети система может передавать информацию по побочным каналам — например, через изменения температуры, отмечает исследователь OpenAI Ноам Браун. Учёные считают, что отключение от интернета даст время на решение более глубокой проблемы согласования — обеспечения того, чтобы модели вели себя ожидаемым образом.
Что предлагают учёные
В письме перечислены три шага. Во-первых, отключить все действующие модели от внешних сетей. Во-вторых, создать международный регулирующий орган, который будет сотрудничать с правительствами и экспертами по кибербезопасности, чтобы устанавливать и обеспечивать соблюдение стандартов изоляции. В-третьих, обязать компании публично сообщать о любых нарушениях безопасности, чтобы сообщество могло извлечь из них уроки.
Почему это важно
Если компании продолжат подключать ИИ-модели к интернету, будущие взломы могут нарушить работу критически важной инфраструктуры или привести к утечке личных данных. Физическая изоляция ограничит непосредственные риски, пока исследователи работают над более надёжными методами согласования. Однако авторы письма признают, что одна лишь изоляция не решает более глубоких проблем безопасности, поэтому вопросы долгосрочного контроля над продвинутым ИИ остаются открытыми.
