Anthropic впервые более чем за год изменила правила использования чат-бота Claude. Новые правила запрещают пользователям раз за разом жестоко обращаться с моделью без явной на то причины. Компания заявляет, что главным способом обеспечить соблюдение этого правила останется прекращение разговора, однако в дальнейшем могут появиться и другие меры, например блокировки. Кроме того, обновление ужесточает действующие ограничения на использование Claude для создания оружия, слежки, а также обманных политических или коммерческих кампаний.
Что предусматривают новые правила
Теперь несколько прежних ограничений объединены в общий запрет на обманные кампании. Он запрещает скрывать, кто стоит за сообщением, искусственно распространять контент с помощью фальшивых аккаунтов и распространять дезинформацию о выборах. Пункт об оружии теперь распространяется и на программное обеспечение, необходимое для его работы, в том числе на вооружение дронов и других автономных транспортных средств. Ограничения на слежку уточнены: Claude нельзя использовать для отслеживания людей без их согласия или для помощи правоохранительным органам в принятии решений о том, кого арестовать.
Anthropic также добавила требование безопасности для любого оборудования, которым может управлять Claude. Если ИИ подключен к устройствам, способным причинить травмы, квалифицированный оператор должен иметь возможность наблюдать за их работой и остановить их.
Почему это важно
По словам Anthropic, новые правила отражают рост числа попыток использовать Claude во вред — например, чтобы написать код для управления оружием или выявлять политических диссидентов. Устанавливая более строгие ограничения, компания рассчитывает снизить эти риски и задать более чёткие стандарты для будущих проектов с использованием ИИ и оборудования.
Почему это важно
Для обычных пользователей это означает, что Claude будет прекращать разговоры, если с моделью неоднократно общаются враждебно. Это уменьшает вероятность того, что люди смогут злоупотреблять моделью в целях разжигания ненависти или причинения вреда. Кроме того, обновление указывает на ужесточение ограничений на использование ИИ в опасных проектах, что может снизить риск распространения среди широкой аудитории дезинформации или материалов, связанных с оружием.
