Anthropic объявила, что шесть сотрудников группы Model Evaluation and Transparency Research (METR) будут работать в кампусе компании, используя то же оборудование и внутренние системы, что и собственные команды Anthropic по оценке рисков. Работа не оплачивается, и группа сможет публиковать свои выводы, хотя Anthropic вправе потребовать скрыть данные клиентов, конфиденциальную информацию или сведения об архитектуре моделей.
Зачем предоставлять такой доступ сторонней организации?
Этот шаг предпринят на фоне подготовки Anthropic к IPO, после которого, по ожиданиям компании, её стоимость превысит $2 трлн. Инвесторы требуют доказательств того, что риски для безопасности находятся под контролем. Предоставив сотрудникам METR доступ к внутренней работе, Anthropic надеется продемонстрировать прозрачный надзор за моделями — почти такой же, как если бы исследователи были сотрудниками компании. Это напоминает практику банков, которые дают регуляторам возможность наблюдать за рискованным поведением до того, как оно навредит обществу.
Почему это важно
Для потребителей дополнительный надзор может снизить вероятность того, что небезопасное поведение модели останется незамеченным и проявится в продуктах после выхода компании на биржу. Регуляторы также получат более конкретные данные для оценки рисков, однако эффективность такого надзора ещё предстоит проверить.
