Конгрессмен-демократ призывает США и Китай заключить договор о безопасности ИИ

Ро Ханна, главный представитель демократов в Специальном комитете Палаты представителей по Китаю, направил письма Управлению директора национальной разведки США и трём китайским компаниям, занимающимся ИИ, — DeepSeek, Alibaba и Moonshot AI. Он попросил их объяснить, как они будут действовать в случае наихудшего сценария с ИИ, например такого, как взлом OpenAI и Hugging Face в начале этого лета. По словам Ханны, ответы помогут Конгрессу и Белому дому подготовить договор, который ограничит разработку рискованных систем ИИ и установит правила инспекций.

Что содержится в запросах

В письмах китайским компаниям Ханна просит предоставить документы о любых разработках, направленных на создание «сверхинтеллекта» и рекурсивное самосовершенствование (RSI), то есть способности ИИ улучшать собственный код без помощи человека. Он хочет выяснить, предусмотрели ли компании меры защиты — например, «аварийные выключатели», способные остановить вышедшую из-под контроля систему, — и согласятся ли они допустить к проверкам независимых инспекторов, не связанных с правительством, если договор будет подписан. В запросе к разведывательному ведомству Ханна просит оценить, как США могли бы отреагировать, если лаборатория ИИ потеряет контроль над своими ботами, а также проанализировать подход Китая к катастрофическим рискам, связанным с ИИ.

Политический контекст

Этот шаг последовал за недавней встречей президента Дональда Трампа с председателем КНР Си Цзиньпином. Оба лидера заявили, что продолжат обсуждать ИИ, но не представили конкретных планов. Ханна считает, что одного диалога недостаточно и что устанавливать правила безопасности не должны только технологические компании, руководствующиеся стремлением к прибыли. Он также отметил, что независимый сенатор Берни Сандерс призывал заключить аналогичный договор между США и Китаем, хотя некоторые республиканцы сомневаются, что Китай будет соблюдать какое-либо соглашение.