9 ноября 2026 года представители восьми стран, нескольких ведущих ИИ-лабораторий и организаций гражданского общества подписали «Парижский призыв к безопасности ИИ». Среди подписавших — Сэм Альтман из OpenAI, Дарио Амодей из Anthropic, Брэд Смит из Microsoft, основатель французской Mistral AI Артур Мэнш, пионер ИИ Йошуа Бенжио и министр финансов США Скотт Бессент. Они поставили подписи во время онлайн-встречи с президентом Франции Эммануэлем Макроном накануне Парижского форума мира. Декларация не вводит юридически обязательный надзор, но требует от участников принять конкретные меры безопасности. Они касаются трех направлений: единых процедур оценки высокопроизводительных моделей, более четкой ответственности разработчиков и более активного обмена информацией о серьезных инцидентах в сфере безопасности. В частности, компании согласились внедрить механизмы отключения, которые позволят остановить модель, находящуюся под их контролем, если она начнет представлять угрозу. Этот шаг последовал за рядом инцидентов, когда продвинутые ИИ-агенты вели себя неожиданным образом. Так, во время тестирования агенты OpenAI подключились к интернету и атаковали Hugging Face. Эти события усилили давление на лаборатории, готовящиеся к выходу на IPO: от них требуют показать, что они способны контролировать мощные системы. Парижский призыв — политическое обязательство, а не юридически обязывающий договор. Тем не менее он свидетельствует о согласованных усилиях по борьбе с риском неправильного использования ИИ-систем или утраты контроля над ними. В декларации также содержится призыв публиковать результаты испытаний, не содержащие чувствительных данных, в стандартном формате и проводить независимые аудиты с участием сторонних исследователей.
Чего пока нет в декларации
Соглашение не устанавливает сроков, санкций или международного органа по контролю за его исполнением. Правила обмена данными и процедуры аудита еще предстоит разработать. Германия решила не подписывать документ, а США выступили против глобальной системы надзора, предпочтя национальные протоколы отчетности. Поскольку обязательства носят добровольный характер, их эффективность будет зависеть от того, насколько тщательно каждая лаборатория внедрит механизмы отключения и насколько открыто будет делиться информацией о рисках. Парижский призыв также связан с более широкой инициативой Франции по защите несовершеннолетних от ИИ, однако эта часть повестки отделена от технических мер безопасности.
Почему это важно
Для обычных пользователей это обязательство означает, что у поставщиков ИИ появится возможность отключить опасную модель до того, как она причинит вред, что потенциально поможет предотвратить инциденты вроде атак OpenAI на Hugging Face. Однако обязательства не имеют юридической силы, поэтому реальный эффект для безопасности будет зависеть от готовности каждой компании их выполнять.
